Dialogue avec Amazon Cloud Technology News : Faire de la sécurité un maillon central du développement des stratégies d'IA d'entreprise

Source : Grande maison modèle

Auteur : Qiao Zhibin

Aujourd’hui, l’IA générative est largement utilisée dans tous les domaines, apportant aux entreprises une innovation et des améliorations d’efficacité sans précédent. Du traitement du langage naturel à la vision par ordinateur, l’IA générative a montré un fort potentiel dans les domaines médical, financier, de la vente au détail, de la fabrication et bien d’autres.

Cependant, à mesure que l’IA générative devient plus répandue, les entreprises et les organisations devront non seulement se concentrer sur la confidentialité et la sécurité des données, mais également veiller à ce que les modèles et les applications soient correctement protégés contre les attaques potentielles et les fuites de données. Les problèmes de sécurité liés à l’intelligence artificielle attirent également de plus en plus l’attention de l’industrie, incitant tous les horizons à rechercher des solutions fiables pour équilibrer innovation et sécurité.

Source : 2023 Amazon Cloud Technology concernant Inforce China Station

Lors de la conférence « 2023 Amazon Cloud Technology re:Inforce China » qui s'est terminée récemment, Amazon Cloud Technology a souligné : « La sécurité est un problème incontournable et important dans la création d'une IA générative. Les entreprises ne peuvent produire que de bonnes données, modèles et applications dans l'IA. Ce n'est qu'avec une meilleure protection de la sécurité que nous pourrons mieux utiliser l'IA pour accélérer l'innovation commerciale.

Dai Wen, directeur du département d'architecture de solutions d'Amazon Cloud Technology Greater China, a souligné : « Dès le début de la construction, nous devons considérer la sécurité comme un maillon central dans le développement de la stratégie d'IA d'entreprise. Cela nous oblige non seulement à nous concentrer sur le L'application d'IA elle-même, mais d'un point de vue full-stack, nous devons examiner de manière approfondie les spécifications de sécurité, les stratégies techniques et les outils de plate-forme des applications, des modèles, des données et de l'infrastructure. Les applications d'IA générative sont comme des icebergs sur la mer. " Nous voulons contrôler en toute sécurité cette nouvelle technologie dans l'entreprise. Technologie, nous devons également faire attention aux glaciers sous la mer. "

En outre, Amazon Cloud Technology a également officiellement lancé la « Solution de protection des données sensibles », qui peut réaliser une découverte automatisée et une gestion unifiée des données sensibles de l'entreprise, offrant ainsi une commodité pour la gouvernance des données. Dans le même temps, ils ont également introduit un certain nombre de nouveaux services et fonctionnalités de sécurité, tels que les autorisations vérifiées par Amazon, la sécurité Amazon CodeGuru, les groupes de résultats pour Amazon Detective, etc. Ces outils et services aident les clients à mettre en place une gestion zéro confiance des applications et à améliorer leur sécurité. découverte et réponse des vulnérabilités.degré d'intelligence.

Après la réunion, les responsables concernés dans le domaine de la sécurité de l'intelligence artificielle de Big Model House et d'Amazon Cloud Technology ont discuté plus en profondeur de la nouvelle situation de la sécurité du cloud dans l'explosion actuelle des capacités et des applications de l'IA générative, et de la manière de faire face à la nouvelle situation, le modèle et la configuration prospective qu'Amazon Cloud Technology a créée.

La sécurité des données et des modèles est essentielle à la création d'applications d'IA

** Aujourd'hui, l'IA générative est passée de l'ère +AI (IA habilitée) à l'ère AI+ (IA native). L'évolution de la demande menée par les départements commerciaux est une tendance évidente. L'IA générative a apporté une plus grande efficacité aux entreprises. valeur, mais cela apporte également de nouveaux défis en matière de sécurité**. L'organisation mondiale de sécurité OWASP répertorie les dix principales menaces auxquelles seront confrontés les grands modèles de langage en 2023, y compris les fuites de données et d'autres problèmes. Dans le même temps, l’IA générative et les grands modèles linguistiques posent également de nouveaux défis aux mécanismes de gestion et de contrôle internes des entreprises.

Source : 2023 Amazon Cloud Technology concernant Inforce China Station

À cet égard, Daiwen a souligné que face à ces nouveaux défis, il est nécessaire de mettre en œuvre le principe de « l'IA responsable » et d'utiliser des outils et des solutions appropriés pour résoudre les problèmes, notamment la protection des données, le traitement des données confidentielles, la sécurité environnementale du fonctionnement, etc. Daiwen a également parlé de l'intégration des capacités de l'IA dans le processus d'audit de sécurité pour assurer la sécurité et la conformité.

Dans le processus de développement de l’IA générative représenté par de grands modèles, la sécurité des données et des modèles est la clé de la création d’applications d’IA. En termes de sécurité des données, la technologie Amazon Cloud fournit une gouvernance des données à cycle complet, de l'acquisition de sources de données au stockage et à l'interrogation des données, en passant par la transmission des données à la plateforme d'IA pour la formation, le réglage et le raisonnement des modèles, ainsi que la classification des données. et la gouvernance. Ils ont souligné l'importance de données de haute qualité pour créer une IA générative et ont adopté des mesures de protection des données à plusieurs niveaux, notamment une gestion sécurisée des clés de stockage des données, le cryptage de la transmission des données et la protection des données utilisée pour empêcher les fuites et la falsification des données.

En termes de sécurité du modèle, la sécurité du modèle entrant dans l’environnement de production après la formation est tout aussi critique. Amazon Cloud Technologies a lancé Amazon Bedrock, offrant une large gamme de modèles de base et garantissant que les clients peuvent choisir le modèle qui correspond à leurs besoins. Amazon Bedrock gère l'infrastructure sous-jacente tout en travaillant avec des partenaires pour fournir le modèle sous-jacent le plus approprié et le plus puissant. Ils mettent l'accent sur la confidentialité et la sécurité des données des clients, garantissant que les données ne sont utilisées que dans le compte client et ne seront pas partagées avec d'autres modèles. De plus, la technologie Amazon Cloud fournit une série de fonctionnalités de sécurité, telles qu'Amazon KMS et Amazon IAM, pour gérer le chiffrement, le contrôle des autorisations et les journaux de comportement. Ils proposent également leur propre grand modèle, Amazon Titan, qui prend en charge la mise en œuvre d'une IA responsable pour réduire et éliminer les contenus inappropriés ou nuisibles.

La sécurité des applications est la garantie pour réaliser la valeur de l'IA

Dans le processus de prise de conscience de la valeur de l’IA, la sécurité des applications est un lien incontournable. Premièrement, il garantit la confidentialité et l’intégrité des données des utilisateurs, empêche les accès non autorisés et les fuites et garantit que les informations sensibles sont correctement protégées. Deuxièmement, la sécurité des applications résiste aux attaques malveillantes, notamment la falsification des données, les attaques par déni de service, etc., préservant ainsi la disponibilité et les performances des applications et réduisant les dommages potentiels. De plus, en mettant en place une sécurité renforcée, les applications peuvent gagner la confiance des utilisateurs, maintenir leur réputation, éviter le désabonnement des utilisateurs et ainsi maintenir leur succès commercial. Les exigences de conformité nécessitent également la sécurité des applications pour garantir la conformité aux réglementations internationales, industrielles ou régionales et éviter les risques juridiques. Enfin, la sécurité des applications contribue à la durabilité à long terme, en réduisant les coûts de maintenance future et de correction des vulnérabilités, ainsi qu'en réduisant le risque de poursuites judiciaires et de pertes.

Avec la croissance des services de chargement cloud, la sécurité complète du cloud devient une tendance générale dans le secteur. Bai Fan, directeur produit de la conformité de la sécurité et de la gouvernance chez Amazon Cloud Technology Greater China, a souligné que les activités cloud évoluent des frontières physiques vers des frontières logiques, ce qui a un impact significatif sur la sécurité du cloud. Par conséquent, la sécurité doit être prise en compte dès les premières étapes. de la conception des produits, et ce n'est pas une réflexion après coup.

Par conséquent, dans la phase de sécurité (DevSecOps) du processus de développement, Amazon Cloud Technology assure la sécurité des applications en intégrant la sécurité dans l'ensemble du cycle de vie du développement logiciel, du développement, de l'intégration continue, du déploiement continu, de la production, de la surveillance jusqu'au feedback. Ses capacités de sécurité de développement d'IA incluent Amazon CodeWhisperer, un assistant de programmation d'IA qui génère des suggestions de code en temps réel, avec une analyse de sécurité du code intégrée pour aider à trouver et corriger les vulnérabilités, et Amazon CodeGuru Security, qui peut être utilisé pour analyser le code à la recherche de vulnérabilités. Il réduit également automatiquement le taux de faux positifs pendant le processus CICD et est facile à intégrer dans le flux de travail de développement.

De plus, pendant la phase de sécurité opérationnelle, Amazon Cloud Technology adopte une politique d'accès de sécurité aux applications de confiance zéro pour garantir que seules les applications disposant d'autorisations spécifiques peuvent accéder ou appeler des API spécifiques du grand modèle. La technologie Amazon Cloud fournit plusieurs outils pour aider les clients à créer ce mécanisme, notamment Amazon Verified Access, qui est utilisé pour créer des canaux réseau fiables sans VPN, Amazon Verified Permissions, qui fournit une gestion fine des autorisations et des autorisations, et le langage open source CEDAR. , utilisé pour écrire et appliquer des stratégies d'autorisation.

De plus, en termes de contrôle du réseau, la technologie Amazon Cloud fournit une série d'outils pour gérer la protection du réseau et l'identification des menaces. Parmi eux, Amazon GuardDuty utilise l'intelligence artificielle et la technologie d'apprentissage automatique pour réduire le taux de fausses alarmes des événements de sécurité et atteindre les objectifs initiaux. Détection et analyse continue.Recommandations intelligentes d’action.

Bai Fan a révélé à Big Model House qu'au sein d'Amazon Cloud Technology, le terme « zéro confiance » existe depuis longtemps et s'est développé pour devenir un mécanisme complet basé sur des outils, des méthodologies et des pratiques. Amazon Cloud Technology promeut activement ces trois aspects. Le zéro confiance implique de nombreux outils, tels qu'Amazon Verified Permissions et Amazon Verified Access, ainsi qu'une gestion et un contrôle des autorisations basés sur IAM. Ces outils forment ensemble un écosystème d'outils zéro confiance. En outre, l’essor de l’IA générative et des grands modèles a exposé davantage d’entreprises à la technologie de l’IA, mais il leur manque peut-être une base informatique et de sécurité complète. Par conséquent, la technologie Amazon Cloud fournit des outils tels qu'Amazon CodeWhisperer pour générer du code sécurisé et détecter les vulnérabilités de sécurité, et fournit des autorisations vérifiées pour gérer les autorisations internes et prendre en charge la gestion des politiques, l'audit et d'autres fonctions pour aider les entreprises à répondre facilement aux exigences de contrôle des autorisations et de sécurité. La technologie Amazon Cloud présente le concept Zero Trust d'une manière plus conviviale, permettant aux développeurs et aux entreprises de créer des fonctionnalités Zero Trust en fonction de leurs propres besoins. Par conséquent, ces services et fonctionnalités peuvent être divisés et utilisés selon les besoins, plutôt que d'être une solution globale fermée. Cette pratique de confiance zéro contribue à rendre les applications plus sécurisées et plus faciles à gérer.

Pour les produits de sécurité cloud, Bai Fan a également souligné l'importance de l'évolutivité et de l'automatisation pour s'adapter aux besoins croissants des entreprises. Il a souligné que toutes les capacités de la technologie Amazon Cloud adhèrent également à une vision à long terme et qu'elles doivent être perfectionnées et utilisées par elles-mêmes avant d'être mises sur le marché, et recommande fortement l'automatisation pour minimiser les erreurs humaines. Cette automatisation est appliquée au contrôle des autorisations, aux capacités de détection et à l'architecture technique sous-jacente pour garantir que les capacités de sécurité peuvent être automatiquement étendues sans avoir besoin d'un redéploiement ou d'un ajustement manuel, ce qui est essentiel pour faire face aux augmentations de pression de l'activité. **

Le développement de la technologie de l’IA doit aller de pair avec la sécurité, et la sécurité doit être considérée comme la première et la plus haute priorité. Amazon Cloud Technology a également appelé à la réunion selon laquelle les clients doivent toujours être au cœur des applications d'IA et la sécurité doit être intégrée dans chaque lien. Ce n'est qu'ainsi que nous pourrons construire ensemble un avenir d'IA plus sûr, plus fiable et plus bénéfique.

Selon Big Model House, avec l'avancement continu de la technologie de l'IA générative, tandis que les entreprises recherchent l'innovation, ce n'est qu'en prenant pleinement en compte les questions de sécurité que l'IA générative pourra réaliser pleinement son potentiel et apporter des avantages durables aux entreprises. Meilleur futur. **