Diálogo con Amazon Cloud Technology News: Hacer de la seguridad un vínculo central en el desarrollo de estrategias empresariales de IA

Fuente: Casa modelo grande

Autor: Qiao Zhibin

Hoy en día, la IA generativa se ha utilizado ampliamente en todos los ámbitos de la vida, aportando innovación y mejoras de eficiencia sin precedentes a las empresas. Desde el procesamiento del lenguaje natural hasta la visión por computadora, la IA generativa ha mostrado un gran potencial en los campos médico, financiero, minorista, manufacturero y otros.

Sin embargo, a medida que la IA generativa se vuelve más frecuente, las empresas y organizaciones no solo deberán centrarse en la privacidad y seguridad de los datos, sino también garantizar que los modelos y aplicaciones estén adecuadamente protegidos contra posibles ataques y fugas de datos. Los problemas de seguridad de la inteligencia artificial también han atraído cada vez más atención por parte de la industria, lo que ha llevado a todos los ámbitos de la vida a buscar soluciones confiables para equilibrar la innovación y la seguridad.

Fuente: 2023 Amazon Cloud Technology re:Inforce China Station

En la conferencia "2023 Amazon Cloud Technology re:Inforce China" que concluyó recientemente, Amazon Cloud Technology señaló: "La seguridad es una cuestión inevitable e importante en la construcción de IA generativa. Las empresas solo pueden crear buenos datos, modelos y aplicaciones en la IA. ​viaje. Sólo con una mejor protección de seguridad podremos utilizar mejor la IA para acelerar la innovación empresarial".

Dai Wen, director del Departamento de Arquitectura de Soluciones de Amazon Cloud Technology Greater China, enfatizó: "Desde el comienzo de la construcción, debemos considerar la seguridad como un vínculo central en el desarrollo de la estrategia empresarial de IA. Esto requiere que no nos centremos solo en Aplicación de IA en sí, pero desde una perspectiva completa, debemos examinar exhaustivamente las especificaciones de seguridad, las estrategias técnicas y las herramientas de plataforma de aplicaciones, modelos, datos e infraestructura. Las aplicaciones de IA generativas son como icebergs en el mar. "Queremos controlar de forma segura esta nueva tecnología en la empresa. Tecnología, también debemos prestar atención a los glaciares bajo el mar".

Además, Amazon Cloud Technology también lanzó oficialmente la "Solución de protección de datos confidenciales", que puede realizar el descubrimiento automatizado y la gestión unificada de datos confidenciales empresariales, brindando comodidad para la gobernanza de datos. Al mismo tiempo, también introdujeron una serie de nuevos servicios y características de seguridad, como Amazon Verified Permissions, Amazon CodeGuru Security, Findings Groups for Amazon Detective, etc. Estas herramientas y servicios ayudan a los clientes a crear una gestión de aplicaciones de confianza cero y mejorar descubrimiento de vulnerabilidad y respuesta grado de inteligencia.

Después de la reunión, los responsables relevantes en el campo de la seguridad de la inteligencia artificial de Big Model House y Amazon Cloud Technology discutieron con más profundidad la nueva situación de la seguridad en la nube en la explosión actual de capacidades y aplicaciones de IA generativa, y cómo afrontar las nuevas situación, patrón y qué diseño prospectivo ha realizado Amazon Cloud Technology.

La seguridad de los datos y los modelos es clave para crear aplicaciones de IA

Hoy en día, la IA generativa se ha transformado de la era +AI (AI potenciada) a la era AI+ (AI nativa). El cambio en la demanda liderado por los departamentos comerciales es una tendencia obvia. La IA generativa ha aportado una mayor eficiencia a las empresas y los negocios. valor, pero también trae consigo nuevos desafíos de seguridad. La organización de seguridad global OWASP enumera las diez principales amenazas que enfrentarán los grandes modelos lingüísticos en 2023, incluida la fuga de datos y otros problemas. Al mismo tiempo, la IA generativa y los grandes modelos lingüísticos también plantean nuevos desafíos a la gestión interna y al mecanismo de control de las empresas.

Fuente: 2023 Amazon Cloud Technology re:Inforce China Station

En este sentido, Daiwen señaló que ante estos nuevos desafíos es necesario implementar el principio de "IA Responsable" y utilizar herramientas y soluciones adecuadas para resolver los problemas, incluida la protección de datos, la privacidad del procesamiento de datos, la operación, la seguridad ambiental, etc. Daiwen también habló sobre incorporar las capacidades de la IA en el proceso de auditoría de seguridad para lograr seguridad y cumplimiento.

En el proceso de desarrollo de la IA generativa representada por grandes modelos, la seguridad de los datos y los modelos son las claves para crear aplicaciones de IA. En términos de seguridad de datos, Amazon Cloud Technology proporciona gobernanza de datos de ciclo completo, desde la adquisición de fuentes de datos hasta el almacenamiento y consulta de datos, hasta la transmisión de datos a la plataforma de IA para entrenamiento, ajuste y razonamiento de modelos, así como clasificación de datos. y gobernanza. Destacaron la importancia de los datos de alta calidad para construir una IA generativa y adoptaron medidas de protección de datos de múltiples capas, incluida la gestión segura de claves del almacenamiento de datos, el cifrado de la transmisión de datos y la protección de datos en uso para evitar la fuga y manipulación de datos.

En términos de seguridad del modelo, la seguridad del modelo que ingresa al entorno de producción después del entrenamiento es igualmente crítica. Amazon Cloud Technologies lanzó Amazon Bedrock, que ofrece una amplia gama de modelos básicos y garantiza que los clientes puedan elegir el modelo que se adapte a sus necesidades. Amazon Bedrock administra la infraestructura subyacente mientras trabaja con socios para proporcionar el modelo subyacente más apropiado y potente. Enfatizan la privacidad y seguridad de los datos del cliente, garantizando que los datos solo se utilicen dentro de la cuenta del cliente y no se compartan con otros modelos. Además, Amazon Cloud Technology proporciona una serie de funciones de seguridad, como Amazon KMS y Amazon IAM, para administrar el cifrado, el control de permisos y los registros de comportamiento. También ofrecen su propio modelo de gran tamaño, Amazon Titan, que apoya la implementación de IA responsable para reducir y eliminar contenido inapropiado o dañino.

La seguridad de las aplicaciones es la garantía para aprovechar el valor de la IA

En el proceso de comprender el valor de la IA, la seguridad de las aplicaciones es un vínculo que no se puede ignorar. En primer lugar, garantiza la privacidad y la integridad de los datos del usuario, evita el acceso no autorizado y la filtración, y garantiza que la información confidencial esté protegida adecuadamente. En segundo lugar, la seguridad de las aplicaciones resiste ataques maliciosos, incluida la manipulación de datos, ataques de denegación de servicio, etc., manteniendo la disponibilidad y el rendimiento de las aplicaciones y reduciendo los daños potenciales. Además, al crear una seguridad sólida, las aplicaciones pueden ganarse la confianza de los usuarios, mantener la reputación, evitar la pérdida de usuarios y, por tanto, mantener el éxito comercial. Los requisitos de cumplimiento también requieren seguridad de las aplicaciones para garantizar el cumplimiento de las regulaciones internacionales, industriales o regionales y evitar riesgos legales. Finalmente, la seguridad de las aplicaciones contribuye a la sostenibilidad a largo plazo, reduciendo el costo de mantenimiento futuro y corrigiendo vulnerabilidades, y reduciendo el riesgo de pérdidas y acciones legales.

Con el crecimiento de los servicios de carga en la nube, la seguridad integral en la nube se está convirtiendo en una tendencia general en la industria. Bai Fan, director de producto de Cumplimiento de Seguridad y Gobernanza de Amazon Cloud Technology Greater China, señaló que el negocio de la nube está evolucionando desde límites físicos a límites lógicos, lo que tiene un impacto significativo en la seguridad de la nube, por lo que la seguridad debe considerarse en las primeras etapas. del diseño de productos, y no es una ocurrencia tardía.

Por lo tanto, en la etapa de seguridad (DevSecOps) del proceso de desarrollo, Amazon Cloud Technology garantiza la seguridad de las aplicaciones integrando la seguridad en todo el ciclo de vida del desarrollo de software, desde el desarrollo, la integración continua, la implementación continua, la producción, el monitoreo hasta la retroalimentación. Sus capacidades de seguridad de desarrollo de IA incluyen Amazon CodeWhisperer, un asistente de programación de IA que genera sugerencias de código en tiempo real, con escaneo de seguridad de código incorporado para ayudar a encontrar y corregir vulnerabilidades, y Amazon CodeGuru Security, que se puede utilizar para escanear código en busca de vulnerabilidades. También reduce automáticamente la tasa de falsos positivos durante el proceso CICD y es fácil de integrar en el flujo de trabajo de desarrollo.

Además, durante la fase de seguridad operativa, Amazon Cloud Technology adopta una política de acceso de seguridad a aplicaciones de confianza cero para garantizar que solo las aplicaciones con permisos específicos puedan acceder o llamar a API específicas del modelo grande. Amazon Cloud Technology proporciona múltiples herramientas para ayudar a los clientes a crear este mecanismo, incluido Amazon Verified Access, que se utiliza para crear canales de red confiables sin VPN, Amazon Verified Permissions, que proporciona autorización detallada y administración de permisos, y el lenguaje de código abierto CEDAR. , utilizado para escribir y aplicar políticas de autorización.

Además, en términos de control de red, Amazon Cloud Technology proporciona una serie de herramientas para abordar la protección de la red y la identificación de amenazas, entre ellas, Amazon GuardDuty utiliza inteligencia artificial y tecnología de aprendizaje automático para reducir la tasa de falsas alarmas de eventos de seguridad y lograr la inicial. Detección y análisis continuo.Recomendaciones inteligentes de acción.

Bai Fan reveló a Big Model House que dentro de Amazon Cloud Technology, el término "confianza cero" existe desde hace mucho tiempo y se ha convertido en un mecanismo completo basado en herramientas, metodologías y prácticas. Amazon Cloud Technology ha estado promoviendo activamente estos tres aspectos. La confianza cero implica muchas herramientas, como Amazon Verified Permissions y Amazon Verified Access, así como la gestión y el control de permisos basados en IAM. Estas herramientas juntas forman un ecosistema de herramientas de confianza cero. Además, el auge de la IA generativa y los grandes modelos ha expuesto a más empresas a la tecnología de IA, pero es posible que carezcan de una base completa de seguridad y TI. Por lo tanto, Amazon Cloud Technology proporciona herramientas como Amazon CodeWhisperer para generar código seguro y detectar vulnerabilidades de seguridad, y proporciona permisos verificados para administrar permisos internos y respaldar la gestión de políticas, auditoría y otras funciones para ayudar a las empresas a responder fácilmente al control de permisos y los requisitos de seguridad. Amazon Cloud Technology presenta el concepto de confianza cero de una manera más fácil de usar, lo que permite a los desarrolladores y empresas crear capacidades de confianza cero según sus propias necesidades. Por lo tanto, estos servicios y capacidades se pueden dividir y utilizar según sea necesario, en lugar de ser una solución global cerrada. Esta práctica de confianza cero ayuda a que las aplicaciones sean más seguras y manejables.

Para los productos de seguridad en la nube, Bai Fan también enfatizó la importancia de la escalabilidad y la automatización para adaptarse a las crecientes necesidades comerciales. Señaló que todas las capacidades de Amazon Cloud Technology también se adhieren al largo plazo, y deben ser pulidas y utilizadas por sí mismas antes de salir al mercado, y recomienda encarecidamente la automatización para minimizar los errores humanos. Esta automatización se aplica al control de permisos, las capacidades de detección y la arquitectura técnica subyacente para garantizar que las capacidades de seguridad se puedan ampliar automáticamente sin la necesidad de una redistribución o ajuste manual, lo cual es fundamental para hacer frente a los aumentos repentinos del negocio. **

El desarrollo de la tecnología de IA debe ir de la mano de la seguridad, y la seguridad debe considerarse la primera y más alta prioridad. Amazon Cloud Technology también pidió en la reunión que los clientes siempre deben estar en el centro de las aplicaciones de IA y que la seguridad debe estar integrada en cada enlace. Sólo así podremos construir juntos un futuro de IA más seguro, confiable y beneficioso.

En opinión de Big Model House, con el avance continuo de la tecnología de IA generativa, mientras las empresas buscan la innovación, sólo considerando plenamente los problemas de seguridad la IA generativa podrá alcanzar plenamente su potencial y aportar beneficios sostenibles a las empresas. Un futuro mejor. **