Диалог с Amazon Cloud Technology News: Сделайте безопасность ключевым звеном в разработке корпоративных стратегий искусственного интеллекта

Источник: Большой Модельный Дом.

Автор: Цяо Чжибинь

Сегодня генеративный искусственный интеллект широко используется во всех сферах жизни, обеспечивая предприятиям беспрецедентные инновации и повышение эффективности. От обработки естественного языка до компьютерного зрения — генеративный искусственный интеллект продемонстрировал большой потенциал в медицине, финансах, розничной торговле, производстве и других областях.

Однако по мере того, как генеративный искусственный интеллект становится все более распространенным, предприятиям и организациям придется не только сосредоточиться на конфиденциальности и безопасности данных, но также обеспечить адекватную защиту моделей и приложений от потенциальных атак и утечек данных. Проблемы безопасности искусственного интеллекта также привлекают все больше и больше внимания со стороны отрасли, побуждая все слои общества искать надежные решения, позволяющие сбалансировать инновации и безопасность.

Источник: Amazon Cloud Technology re:Inforce China Station, 2023 г.

На завершившейся недавно конференции Amazon Cloud Technology re:Inforce China компания Amazon Cloud Technology отметила: «Безопасность — это неизбежный и важный вопрос при создании генеративного ИИ. Предприятия могут создавать только качественные данные, модели и приложения с помощью ИИ. ​путешествие. Только при лучшей защите безопасности мы сможем лучше использовать ИИ для ускорения бизнес-инноваций».

Дай Вэнь, директор департамента архитектуры решений Amazon Cloud Technology Greater China, подчеркнул: «С самого начала мы должны рассматривать безопасность как ключевое звено в разработке корпоративной стратегии искусственного интеллекта. Это требует от нас не просто сосредоточиться на Само приложение искусственного интеллекта, но с точки зрения полного стека нам необходимо всесторонне изучить спецификации безопасности, технические стратегии и платформенные инструменты приложений, моделей, данных и инфраструктуры.Генеративные приложения искусственного интеллекта подобны айсбергам в море. "Мы хотим безопасно контролировать эту новую технологию на предприятии. Технология, нам также необходимо обратить внимание на ледники под водой".

Кроме того, Amazon Cloud Technology также официально представила «Решение для защиты конфиденциальных данных», которое может реализовать автоматическое обнаружение и унифицированное управление конфиденциальными корпоративными данными, обеспечивая удобство управления данными. В то же время они также представили ряд новых сервисов и функций безопасности, таких как проверенные разрешения Amazon, Amazon CodeGuru Security, группы результатов для Amazon Detective и т. д. Эти инструменты и сервисы помогают клиентам создавать управление приложениями с нулевым доверием и улучшать их. обнаружение уязвимостей и реагирование на них.степень интеллекта.

После встречи соответствующие лица, ответственные за безопасность искусственного интеллекта Big Model House и Amazon Cloud Technology, более подробно обсудили новую ситуацию с облачной безопасностью в условиях сегодняшнего бурного роста возможностей и приложений генеративного искусственного интеллекта, а также то, как противостоять новым ситуация, шаблон и какой перспективный макет создала компания Amazon Cloud Technology.

Безопасность данных и моделей — ключ к созданию приложений искусственного интеллекта

Сегодня генеративный ИИ превратился из эпохи +AI (с поддержкой ИИ) в эпоху ИИ+ (собственный ИИ). Изменение спроса, возглавляемое бизнес-подразделениями, является очевидной тенденцией. Генеративный ИИ повысил эффективность предприятий. и бизнеса. ценность, но это также создает новые проблемы безопасности. Организация глобальной безопасности OWASP перечисляет десять основных угроз, с которыми столкнутся большие языковые модели в 2023 году, включая утечку данных и другие проблемы. В то же время генеративный искусственный интеллект и большие языковые модели также создают новые проблемы для внутреннего механизма управления и контроля предприятий.

Источник: Amazon Cloud Technology re:Inforce China Station, 2023 г.

В этой связи Дайвен отметила, что при столкновении с этими новыми вызовами необходимо реализовать принцип «Ответственного ИИ» и использовать соответствующие инструменты и решения для решения проблем, включая защиту данных, обработку конфиденциальных данных, экологическую безопасность эксплуатации и т. д. Дайвен также рассказала о включении возможностей искусственного интеллекта в процесс аудита безопасности для достижения безопасности и соответствия требованиям.

В процессе разработки генеративного ИИ, представленного большими моделями, безопасность данных и моделей является ключом к созданию приложений ИИ. С точки зрения безопасности данных Amazon Cloud Technology обеспечивает полный цикл управления данными: от получения источников данных до их хранения и запроса, до передачи данных на платформу искусственного интеллекта для обучения модели, настройки и вывода, а также классификации данных. и управление. Они подчеркнули важность высококачественных данных для создания генеративного искусственного интеллекта и приняли многоуровневые меры защиты данных, включая безопасное управление ключами хранения данных, шифрование передачи данных и защиту используемых данных для предотвращения утечки и подделки данных.

С точки зрения безопасности модели, безопасность модели, попадающей в производственную среду после обучения, не менее важна. Amazon Cloud Technologies запустила Amazon Bedrock, предлагая широкий выбор базовых моделей и гарантируя, что клиенты смогут выбрать модель, соответствующую их потребностям. Amazon Bedrock управляет базовой инфраструктурой, работая с партнерами над созданием наиболее подходящей и мощной базовой модели. Они подчеркивают конфиденциальность и безопасность данных клиентов, гарантируя, что данные будут использоваться только в учетной записи клиента и не будут переданы другим моделям. Кроме того, Amazon Cloud Technology предоставляет ряд функций безопасности, таких как Amazon KMS и Amazon IAM, для управления шифрованием, контролем разрешений и журналами поведения. Они также предлагают свою собственную крупную модель Amazon Titan, которая поддерживает внедрение ответственного искусственного интеллекта для сокращения и устранения нежелательного или вредного контента.

Безопасность приложений — гарантия реализации ценности ИИ

В процессе реализации ценности ИИ безопасность приложений — это звено, которое нельзя игнорировать. Во-первых, он гарантирует конфиденциальность и целостность пользовательских данных, предотвращает несанкционированный доступ и утечку, а также обеспечивает должную защиту конфиденциальной информации. Во-вторых, безопасность приложений противостоит вредоносным атакам, включая подделку данных, атаки типа «отказ в обслуживании» и т. д., поддерживая доступность и производительность приложений и снижая потенциальный ущерб. Кроме того, за счет создания надежной системы безопасности приложения могут завоевать доверие пользователей, сохранить репутацию, избежать оттока пользователей и, таким образом, сохранить коммерческий успех. Требования соответствия также требуют безопасности приложений, чтобы обеспечить соответствие международным, отраслевым или региональным нормам и избежать юридических рисков. Наконец, безопасность приложений способствует долгосрочной устойчивости, снижая затраты на будущее обслуживание и устранение уязвимостей, а также снижая риск судебных исков и потерь.

С ростом количества сервисов облачной нагрузки комплексная облачная безопасность становится общей тенденцией в отрасли. Бай Фан, директор по продуктам по обеспечению безопасности и управлению Amazon Cloud Technology в Большом Китае, отметил, что облачный бизнес развивается от физических границ к логическим границам, что оказывает существенное влияние на облачную безопасность.Поэтому вопросы безопасности необходимо учитывать на ранних этапах дизайна продукта, и это не второстепенная мысль.

Таким образом, на этапе безопасности (DevSecOps) процесса разработки Amazon Cloud Technology обеспечивает безопасность приложений, интегрируя безопасность во весь жизненный цикл разработки программного обеспечения: от разработки, непрерывной интеграции, непрерывного развертывания, производства, мониторинга до обратной связи. Его возможности по обеспечению безопасности при разработке искусственного интеллекта включают Amazon CodeWhisperer, помощника по программированию на основе искусственного интеллекта, который генерирует предложения по коду в режиме реального времени со встроенным сканированием безопасности кода, помогающим находить и устранять уязвимости, а также Amazon CodeGuru Security, который можно использовать для сканирования кода на наличие уязвимостей. Он также автоматически снижает уровень ложных срабатываний в процессе CICD и легко интегрируется в рабочий процесс разработки.

Кроме того, на этапе операционной безопасности Amazon Cloud Technology применяет политику безопасности доступа к приложениям с нулевым доверием, чтобы гарантировать, что только приложения с определенными разрешениями могут получать доступ или вызывать определенные API большой модели. Amazon Cloud Technology предоставляет несколько инструментов, которые помогут клиентам создать этот механизм, в том числе Amazon Verified Access, который используется для создания надежных сетевых каналов без VPN, Amazon Verified Permissions, который обеспечивает детальную авторизацию и управление разрешениями, а также язык с открытым исходным кодом CEDAR. , используемый для написания и применения политик авторизации.

Кроме того, с точки зрения управления сетью Amazon Cloud Technology предоставляет ряд инструментов для защиты сети и выявления угроз. обнаружение и непрерывный анализ.Интеллектуальные рекомендации к действию.

Бай Фань рассказал Big Model House, что в Amazon Cloud Technology термин «нулевое доверие» существует уже давно и превратился в полноценный механизм, основанный на инструментах, методологиях и практиках. Amazon Cloud Technology активно продвигает эти три аспекта. Нулевое доверие включает в себя множество инструментов, таких как Amazon Verified Permissions и Amazon Verified Access, а также управление и контроль разрешений на основе IAM.Эти инструменты вместе образуют экосистему инструментов нулевого доверия. Кроме того, развитие генеративного искусственного интеллекта и больших моделей привело к тому, что все больше компаний познакомились с технологиями искусственного интеллекта, но у них может отсутствовать полноценная основа ИТ и безопасности. Поэтому Amazon Cloud Technology предоставляет такие инструменты, как Amazon CodeWhisperer, для создания безопасного кода и обнаружения уязвимостей безопасности, а также предоставляет проверенные разрешения для управления внутренними разрешениями и поддержки управления политиками, аудита и других функций, которые помогают предприятиям легко реагировать на контроль разрешений и требования безопасности. Amazon Cloud Technology представляет концепцию нулевого доверия в более удобной для пользователя форме, позволяя разработчикам и предприятиям создавать возможности нулевого доверия в соответствии со своими потребностями. Таким образом, эти услуги и возможности можно разделить и использовать по мере необходимости, а не закрытое общее решение. Такая практика нулевого доверия помогает сделать приложения более безопасными и управляемыми.

Что касается продуктов облачной безопасности, Бай Фань также подчеркнул важность масштабируемости и автоматизации для адаптации к растущим потребностям бизнеса. Он отметил, что все возможности Amazon Cloud Technology также ориентированы на долгосрочную перспективу, и их необходимо отшлифовать и использовать самостоятельно перед выходом на рынок, и настоятельно рекомендует автоматизацию для минимизации человеческих ошибок. Эта автоматизация применяется к контролю разрешений, возможностям обнаружения и базовой технической архитектуре, чтобы гарантировать возможность автоматического расширения возможностей безопасности без необходимости ручного перераспределения или настройки, что имеет решающее значение для преодоления резких скачков бизнеса. **

Развитие технологий искусственного интеллекта должно идти рука об руку с безопасностью, а безопасность следует рассматривать как первый и высший приоритет. Только таким образом мы сможем совместно построить более безопасное, надежное и выгодное будущее ИИ.

По мнению Big Model House, при постоянном развитии технологий генеративного ИИ, в то время как предприятия стремятся к инновациям, только полностью учитывая вопросы безопасности, генеративный ИИ может полностью реализовать свой потенциал и принести устойчивые выгоды предприятиям.Продолжение роста бизнеса и совместное создание лучшее будущее. **