Діалог із Amazon Cloud Technology News: Зробіть безпеку ключовою ланкою в розробці корпоративних стратегій ШІ

Джерело: Big Model House

Автор: Цяо Чжибінь

Сьогодні генеративний штучний інтелект широко використовується в усіх сферах життя, приносячи безпрецедентні інновації та підвищення ефективності для підприємств. Від обробки природної мови до комп’ютерного зору, генеративний ШІ продемонстрував потужний потенціал у медицині, фінансах, роздрібній торгівлі, виробництві та інших сферах.

Однак у міру того, як генеративний штучний інтелект стає все більш поширеним, підприємствам і організаціям потрібно буде не тільки зосередитися на конфіденційності та безпеці даних, але й забезпечити належний захист моделей і програм від потенційних атак і витоку даних. Питання безпеки штучного інтелекту також привертають все більше уваги з боку галузі, спонукаючи всі верстви суспільства шукати надійні рішення, щоб збалансувати інновації та безпеку.

Джерело: 2023 Amazon Cloud Technology re:Inforce China Station

На конференції «2023 Amazon Cloud Technology re:Inforce China», яка нещодавно завершилася, Amazon Cloud Technology підкреслила: «Безпека є неминучим і важливим питанням у створенні генеративного штучного інтелекту. Підприємства можуть створювати тільки хороші дані, моделі та програми в штучному інтелекті. ​подорож. Лише з кращим захистом безпеки ми можемо краще використовувати ШІ для прискорення бізнес-інновацій».

Дай Вень, директор департаменту архітектури рішень Amazon Cloud Technology Greater China, підкреслив: «З самого початку будівництва ми повинні розглядати безпеку як основну ланку в розробці корпоративної стратегії ШІ. Це вимагає від нас не просто зосереджуватися на Сама програма штучного інтелекту, але з точки зору повного стека, нам потрібно всебічно вивчити специфікації безпеки, технічні стратегії та інструменти платформи програм, моделей, даних та інфраструктури. Генеративні програми ШІ схожі на айсберги в морі . Ми хочемо безпечно контролювати цю нову технологію на підприємстві. Технологія, нам також потрібно звернути увагу на льодовики під водою».

Крім того, Amazon Cloud Technology також офіційно запустила «Рішення для захисту конфіденційних даних», яке може реалізувати автоматичне виявлення та уніфіковане керування корпоративними конфіденційними даними, забезпечуючи зручність керування даними. У той же час вони також представили низку нових служб безпеки та функцій, таких як Amazon Verified Permissions, Amazon CodeGuru Security, Findings Groups for Amazon Detective тощо. Ці інструменти та послуги допомагають клієнтам будувати нульову довіру до програм і покращувати виявлення вразливості та реагування ступінь інтелекту.

Після зустрічі відповідальні особи, відповідальні за безпеку штучного інтелекту Big Model House і Amazon Cloud Technology, більш детально обговорили нову ситуацію з хмарною безпекою в умовах сучасного вибуху генеративних можливостей і програм ШІ, а також те, як протистояти новому ситуації, моделі та перспективного макета Amazon Cloud Technology.

Безпека даних і моделей є ключовими для створення програм AI

Сьогодні генеративний штучний інтелект трансформувався з епохи +AI (розширений штучний інтелект) до епохи AI+ (власний штучний інтелект). Зміна попиту, керована бізнес-відділами, є очевидною тенденцією. Генеративний штучний інтелект приніс підприємствам більшу ефективність. і бізнес цінність, але це також приносить нові виклики безпеці. Глобальна організація безпеки OWASP склала список десяти найбільших загроз, з якими зіткнуться великі мовні моделі у 2023 році, включаючи витік даних та інші проблеми. У той же час генеративний ШІ та великі мовні моделі також створюють нові виклики внутрішньому механізму управління та контролю підприємств.

Джерело: 2023 Amazon Cloud Technology re:Inforce China Station

У зв’язку з цим Дайвен зазначив, що, стикаючись із цими новими викликами, необхідно впроваджувати принцип «Відповідального штучного інтелекту» та використовувати відповідні інструменти та рішення для вирішення проблем, включаючи захист даних, обробку конфіденційних даних, експлуатацію, екологічну безпеку тощо. Дайвен також розповів про включення можливостей штучного інтелекту в процес аудиту безпеки для досягнення безпеки та відповідності.

У процесі розробки генеративного штучного інтелекту, представленого великими моделями, безпека даних і моделі є ключем до створення програм ШІ. З точки зору безпеки даних, хмарна технологія Amazon забезпечує повний цикл управління даними, від отримання джерел даних до зберігання даних і запитів, до передачі даних на платформу AI для навчання моделі, налаштування та міркування, а також класифікації даних. і управління. Вони підкреслили важливість високоякісних даних для створення генеративного штучного інтелекту та вжили багаторівневих заходів захисту даних, включаючи безпечне керування ключами зберігання даних, шифрування передачі даних і захист даних, що використовуються, щоб запобігти витоку даних і підробці.

З точки зору безпеки моделі, безпека моделі, яка надходить у виробниче середовище після навчання, є однаково важливою. Amazon Cloud Technologies запустила Amazon Bedrock, пропонуючи широкий спектр базових моделей і гарантуючи, що клієнти можуть вибрати модель, яка відповідає їхнім потребам. Amazon Bedrock керує базовою інфраструктурою, працюючи з партнерами, щоб забезпечити найбільш підходящу та потужну базову модель. Вони наголошують на конфіденційності та безпеці даних клієнтів, гарантуючи, що дані використовуються лише в обліковому записі клієнта та не будуть передаватись іншим моделям. Крім того, хмарна технологія Amazon надає низку функцій безпеки, як-от Amazon KMS і Amazon IAM, для керування шифруванням, керуванням дозволами та журналами поведінки. Вони також пропонують власну велику модель Amazon Titan, яка підтримує впровадження відповідального штучного інтелекту для зменшення та усунення невідповідного чи шкідливого вмісту.

Безпека програми є гарантією реалізації цінності ШІ

У процесі усвідомлення цінності штучного інтелекту безпека додатків є ланкою, яку не можна ігнорувати. По-перше, це гарантує конфіденційність і цілісність даних користувача, запобігає несанкціонованому доступу та витоку, а також забезпечує належний захист конфіденційної інформації. По-друге, безпека програми протистоїть зловмисним атакам, включаючи підробку даних, атаки на відмову в обслуговуванні тощо, зберігаючи доступність і продуктивність програми та зменшуючи потенційну шкоду. Крім того, створюючи надійну безпеку, програми можуть завоювати довіру користувачів, підтримувати репутацію, уникати відтоку користувачів і таким чином підтримувати комерційний успіх. Вимоги до відповідності також вимагають безпеки додатків, щоб забезпечити відповідність міжнародним, галузевим або регіональним нормам і уникнути юридичних ризиків. Нарешті, безпека програми сприяє довгостроковій стабільності, знижує вартість майбутнього обслуговування та усунення вразливостей, а також зменшує ризик судових позовів і збитків.

Із зростанням кількості хмарних сервісів комплексна хмарна безпека стає загальною тенденцією в галузі. Бай Фан, директор із забезпечення відповідності вимогам безпеки та управління Amazon Cloud Technology Greater China, зазначив, що хмарний бізнес розвивається від фізичних меж до логічних, що має значний вплив на безпеку хмари. Тому безпеку потрібно розглядати на ранніх етапах. дизайну продукту, і це не запізніла думка.

Таким чином, на етапі безпеки (DevSecOps) процесу розробки Amazon Cloud Technology забезпечує безпеку додатків, інтегруючи безпеку в увесь життєвий цикл розробки програмного забезпечення, від розробки, безперервної інтеграції, безперервного розгортання, виробництва, моніторингу до зворотного зв’язку. Його можливості безпеки розробки AI включають Amazon CodeWhisperer, помічника програмування AI, який генерує пропозиції коду в режимі реального часу, із вбудованим скануванням безпеки коду, щоб допомогти знайти та виправити вразливості, і Amazon CodeGuru Security, який можна використовувати для сканування коду на наявність вразливостей. Він також автоматично знижує частоту помилкових позитивних результатів під час процесу CICD і його легко інтегрувати в робочий процес розробки.

Крім того, на етапі операційної безпеки хмарна технологія Amazon використовує політику безпеки доступу до додатків із нульовою довірою, щоб гарантувати, що лише програми з певними дозволами можуть отримувати доступ або викликати певні API великої моделі. Amazon Cloud Technology надає численні інструменти, які допомагають клієнтам створювати цей механізм, зокрема Amazon Verified Access, який використовується для створення надійних мережевих каналів без VPN, Amazon Verified Permissions, який забезпечує детальне керування авторизацією та дозволами, а також мову з відкритим кодом CEDAR. , який використовується для створення та застосування політик авторизації.

Крім того, з точки зору контролю мережі, Amazon Cloud Technology надає низку інструментів для захисту мережі та виявлення загроз. Серед них Amazon GuardDuty використовує штучний інтелект і технологію машинного навчання, щоб зменшити частоту помилкових тривог під час подій безпеки та досягти початкового виявлення та постійний аналіз Розумні рекомендації щодо дій.

Бай Фан розповів Big Model House, що в хмарних технологіях Amazon термін «нульова довіра» існує вже давно і перетворився на повний механізм, заснований на інструментах, методологіях і практиках. Amazon Cloud Technology активно просуває ці три аспекти. Нульова довіра передбачає багато інструментів, як-от Amazon Verified Permissions і Amazon Verified Access, а також управління дозволами та контроль на основі IAM. Ці інструменти разом утворюють екосистему інструментів нульової довіри. Крім того, зростання генеративного штучного інтелекту та великих моделей відкрило більше компаній для використання технології штучного інтелекту, але їм може бракувати повної основи ІТ та безпеки. Таким чином, Amazon Cloud Technology надає такі інструменти, як Amazon CodeWhisperer, для створення безпечного коду та виявлення вразливостей у безпеці, а також надає Verified Permissions для керування внутрішніми дозволами та підтримки керування політикою, аудиту та інших функцій, щоб допомогти підприємствам легко реагувати на контроль дозволів і вимоги безпеки. Amazon Cloud Technology представляє концепцію нульової довіри більш зручним для користувача способом, дозволяючи розробникам і підприємствам створювати можливості нульової довіри відповідно до власних потреб. Таким чином, ці служби та можливості можна розділяти та використовувати за потреби, а не закрите загальне рішення. Ця практика нульової довіри допомагає зробити програми більш безпечними та керованими.

Для хмарних продуктів безпеки Бай Фан також підкреслив важливість масштабованості та автоматизації для адаптації до зростаючих потреб бізнесу. Він зазначив, що всі можливості хмарної технології Amazon також дотримуються довгострокових принципів, і вони повинні бути відшліфовані та використані самостійно перед виходом на ринок, і настійно рекомендував автоматизацію для мінімізації людських помилок. Ця автоматизація застосовується до контролю дозволів, можливостей виявлення та основної технічної архітектури, щоб гарантувати автоматичне розширення можливостей безпеки без необхідності ручного перерозподілу чи налаштування, що є критично важливим для боротьби зі сплесками бізнесу. **

Розвиток технології штучного інтелекту має йти рука об руку з безпекою, і безпека має розглядатися як перший і найвищий пріоритет. Amazon Cloud Technology також закликала на зустрічі, що клієнти завжди повинні бути в основі додатків штучного інтелекту, а безпека має бути вбудована в кожне посилання.Тільки таким чином ми зможемо спільно побудувати безпечніше, надійніше та вигідніше майбутнє ШІ.

На думку Big Model House, у зв’язку з безперервним прогресом технології генеративного штучного інтелекту, хоча підприємства прагнуть до інновацій, генеративний штучний інтелект може повністю реалізувати свій потенціал і принести стійкі переваги підприємствам, лише якщо повністю врахувати питання безпеки.Постійне зростання бізнесу та спільне створення краще майбутнє. **