Diálogo com Amazon Cloud Technology News: Faça da segurança um elo fundamental no desenvolvimento de estratégias empresariais de IA

Fonte: Casa Grande Modelo

Autor: Qiao Zhibin

Hoje, a IA generativa tem sido amplamente utilizada em todas as esferas da vida, trazendo inovação sem precedentes e melhorias de eficiência para as empresas. Do processamento de linguagem natural à visão computacional, a IA generativa tem demonstrado um forte potencial nos campos médico, financeiro, retalhista, industrial e outros.

No entanto, à medida que a IA generativa se torna mais predominante, as empresas e organizações não só precisarão de se concentrar na privacidade e segurança dos dados, mas também em garantir que os modelos e aplicações estão adequadamente protegidos contra potenciais ataques e fugas de dados. As questões de segurança da inteligência artificial também têm atraído cada vez mais atenção da indústria, levando todas as esferas da vida a procurar soluções fiáveis para equilibrar inovação e segurança.

Fonte: 2023 Amazon Cloud Technology re:Inforce China Station

Na conferência "2023 Amazon Cloud Technology re:Inforce China" concluída recentemente, a Amazon Cloud Technology apontou: "A segurança é uma questão inevitável e importante na construção de IA generativa. As empresas só podem produzir bons dados, modelos e aplicações na IA. ​jornada. Somente com melhor proteção de segurança poderemos usar melhor a IA para acelerar a inovação empresarial."

Dai Wen, Diretor do Departamento de Arquitetura de Soluções da Amazon Cloud Technology Greater China, enfatizou: "Desde o início da construção, precisamos considerar a segurança como um elo central no desenvolvimento da estratégia empresarial de IA. Isso exige que não nos concentremos apenas no Aplicativo de IA em si, mas de uma perspectiva full-stack, precisamos examinar exaustivamente as especificações de segurança, estratégias técnicas e ferramentas de plataforma de aplicativos, modelos, dados e infraestrutura. Os aplicativos de IA generativos são como icebergs no mar "Queremos controlar com segurança esta nova tecnologia na empresa. Tecnologia, também precisamos prestar atenção às geleiras no fundo do mar."

Além disso, a Amazon Cloud Technology também lançou oficialmente a "Solução de Proteção de Dados Sensíveis", que pode realizar a descoberta automatizada e o gerenciamento unificado de dados confidenciais da empresa, proporcionando conveniência para a governança de dados. Ao mesmo tempo, eles também introduziram uma série de novos serviços e recursos de segurança, como Amazon Verified Permissions, Amazon CodeGuru Security, Findings Groups for Amazon Detective, etc. descoberta e resposta a vulnerabilidades.grau de inteligência.

Após a reunião, os responsáveis na área de segurança de inteligência artificial da Big Model House e Amazon Cloud Technology discutiram com mais profundidade a nova situação da segurança em nuvem na atual explosão de capacidades e aplicações de IA generativa, e como enfrentar o novo situação, padrão e o layout prospectivo que a Amazon Cloud Technology criou.

A segurança de dados e modelos é fundamental para criar aplicações de IA

Atualmente, a IA generativa passou da era +AI (capacitada por IA) para a era AI+ (IA nativa). A mudança na demanda liderada pelos departamentos de negócios é uma tendência óbvia. A IA generativa trouxe maior eficiência para empresas e negócios. valor, mas também traz novos desafios de segurança. A organização global de segurança OWASP lista as dez principais ameaças enfrentadas por grandes modelos de linguagem em 2023, incluindo vazamento de dados e outros problemas. Ao mesmo tempo, a IA generativa e os grandes modelos linguísticos também trazem novos desafios ao mecanismo interno de gestão e controlo das empresas.

Fonte: 2023 Amazon Cloud Technology re:Inforce China Station

A este respeito, Daiwen destacou que, ao enfrentar estes novos desafios, é necessário implementar o princípio da “IA Responsável” e utilizar ferramentas e soluções adequadas para resolver problemas, incluindo protecção de dados, processamento de dados de privacidade, operação, segurança ambiental, etc. Daiwen também falou sobre a incorporação dos recursos da IA no processo de auditoria de segurança para alcançar segurança e conformidade.

No processo de desenvolvimento de IA generativa representada por grandes modelos, a segurança dos dados e dos modelos são as chaves para a construção de aplicações de IA. Em termos de segurança de dados, a Amazon Cloud Technology fornece governança de dados de ciclo completo, desde a aquisição de fontes de dados até armazenamento e consulta de dados, até a transmissão de dados para a plataforma de IA para treinamento, ajuste e raciocínio de modelo, bem como classificação de dados e governação. Enfatizaram a importância de dados de alta qualidade para a construção de IA generativa e adotaram medidas de proteção de dados em vários níveis, incluindo gestão segura de chaves de armazenamento de dados, criptografia de transmissão de dados e proteção de dados em uso para evitar vazamento e adulteração de dados.

Em termos de segurança do modelo, a segurança do modelo que entra no ambiente de produção após o treinamento é igualmente crítica. A Amazon Cloud Technologies lançou o Amazon Bedrock, oferecendo uma ampla variedade de modelos básicos e garantindo que os clientes possam escolher o modelo que atenda às suas necessidades. O Amazon Bedrock gerencia a infraestrutura subjacente enquanto trabalha com parceiros para fornecer o modelo subjacente mais adequado e poderoso. Eles enfatizam a privacidade e a segurança dos dados do cliente, garantindo que os dados sejam usados apenas dentro da conta do cliente e não sejam compartilhados com outros modelos. Além disso, a Amazon Cloud Technology oferece uma série de recursos de segurança, como Amazon KMS e Amazon IAM, para gerenciar criptografia, controle de permissão e logs comportamentais. Eles também oferecem seu próprio modelo grande, o Amazon Titan, que apoia a implementação de IA responsável para reduzir e eliminar conteúdo impróprio ou prejudicial.

A segurança da aplicação é a garantia para concretizar o valor da IA

No processo de realização do valor da IA, a segurança das aplicações é um elo que não pode ser ignorado. Em primeiro lugar, garante a privacidade e integridade dos dados dos utilizadores, evita acessos não autorizados e fugas e garante que as informações sensíveis sejam devidamente protegidas. Em segundo lugar, a segurança das aplicações resiste a ataques maliciosos, incluindo adulteração de dados, ataques de negação de serviço, etc., mantendo a disponibilidade e o desempenho das aplicações e reduzindo potenciais danos. Além disso, ao construir uma segurança forte, os aplicativos podem ganhar a confiança dos usuários, manter a reputação, evitar a rotatividade de usuários e, assim, manter o sucesso comercial. Os requisitos de conformidade também exigem segurança de aplicativos para garantir a conformidade com regulamentações internacionais, industriais ou regionais e evitar riscos legais. Por fim, a segurança das aplicações contribui para a sustentabilidade a longo prazo, reduzindo o custo de manutenção futura e correção de vulnerabilidades, e reduzindo o risco de ações judiciais e perdas.

Com o crescimento dos serviços de carregamento em nuvem, a segurança abrangente na nuvem está se tornando uma tendência geral no setor. Bai Fan, Diretor de Produto de Conformidade de Segurança e Governança da Amazon Cloud Technology Greater China, destacou que os negócios em nuvem estão evoluindo de limites físicos para limites lógicos, o que tem um impacto significativo na segurança da nuvem. Portanto, a segurança deve ser considerada nos estágios iniciais do design do produto, e não é uma reflexão tardia.

Portanto, na etapa de segurança (DevSecOps) do processo de desenvolvimento, a Amazon Cloud Technology garante a segurança das aplicações integrando a segurança em todo o ciclo de vida de desenvolvimento de software, desde o desenvolvimento, integração contínua, implantação contínua, produção, monitoramento até feedback. Seus recursos de segurança de desenvolvimento de IA incluem o Amazon CodeWhisperer, um assistente de programação de IA que gera sugestões de código em tempo real, com verificação de segurança de código integrada para ajudar a encontrar e corrigir vulnerabilidades, e o Amazon CodeGuru Security, que pode ser usado para verificar vulnerabilidades no código. Ele também reduz automaticamente a taxa de falsos positivos durante o processo CICD e é fácil de integrar ao fluxo de trabalho de desenvolvimento.

Além disso, durante a fase de segurança operacional, a Amazon Cloud Technology adota uma política de acesso de segurança de aplicações de confiança zero para garantir que apenas aplicações com permissões específicas possam acessar ou chamar APIs específicas do modelo grande. A Amazon Cloud Technology fornece diversas ferramentas para ajudar os clientes a criar esse mecanismo, incluindo o Amazon Verified Access, que é usado para criar canais de rede confiáveis e livres de VPN, o Amazon Verified Permissions, que fornece autorização refinada e gerenciamento de permissões, e a linguagem de código aberto CEDAR. , usado para escrever e aplicar políticas de autorização.

Além disso, em termos de controle de rede, a Amazon Cloud Technology fornece uma série de ferramentas para lidar com a proteção da rede e identificação de ameaças, entre elas, o Amazon GuardDuty usa inteligência artificial e tecnologia de aprendizado de máquina para reduzir a taxa de falsos alarmes de eventos de segurança e alcançar resultados iniciais detecção e análise contínua.Recomendações inteligentes para ação.

Bai Fan revelou à Big Model House que dentro da Amazon Cloud Technology, o termo “confiança zero” já existe há muito tempo e se desenvolveu em um mecanismo completo baseado em ferramentas, metodologias e práticas. A Amazon Cloud Technology tem promovido ativamente esses três aspectos. A confiança zero envolve muitas ferramentas, como Amazon Verified Permissions e Amazon Verified Access, bem como gerenciamento e controle de permissões com base no IAM. Essas ferramentas juntas formam um ecossistema de ferramentas de confiança zero. Além disso, a ascensão da IA generativa e de grandes modelos expôs mais empresas à tecnologia de IA, mas podem carecer de uma base completa de TI e segurança. Portanto, a Amazon Cloud Technology fornece ferramentas como o Amazon CodeWhisperer para gerar código seguro e detectar vulnerabilidades de segurança, e fornece permissões verificadas para gerenciar permissões internas e oferecer suporte ao gerenciamento de políticas, auditoria e outras funções para ajudar as empresas a responder facilmente ao controle de permissão e aos requisitos de segurança. A Amazon Cloud Technology apresenta o conceito de confiança zero de uma forma mais fácil de usar, permitindo que desenvolvedores e empresas construam capacidades de confiança zero de acordo com suas próprias necessidades. Portanto, esses serviços e capacidades podem ser divididos e usados conforme necessário, em vez de serem uma solução global fechada. Essa prática de confiança zero ajuda a tornar os aplicativos mais seguros e gerenciáveis.

Para produtos de segurança em nuvem, Bai Fan também enfatizou a importância da escalabilidade e da automação para se adaptar às crescentes necessidades dos negócios. Ele destacou que todos os recursos da Amazon Cloud Technology também aderem ao longo prazo, e devem ser polidos e usados por si próprios antes de irem para o mercado, e recomenda fortemente a automação para minimizar erros humanos. Essa automação é aplicada ao controle de permissões, recursos de detecção e arquitetura técnica subjacente para garantir que os recursos de segurança possam ser expandidos automaticamente sem a necessidade de reimplantação ou ajuste manual, o que é fundamental para lidar com picos de negócios. **

O desenvolvimento da tecnologia de IA deve andar de mãos dadas com a segurança, e a segurança deve ser considerada a primeira e mais elevada prioridade. A Amazon Cloud Technology também apelou à reunião que os clientes devem estar sempre no centro das aplicações de IA, e a segurança deve ser incorporada em cada link.Só desta forma podemos construir conjuntamente um futuro de IA mais seguro, mais confiável e benéfico.

Na opinião da Big Model House, com o avanço contínuo da tecnologia de IA generativa, enquanto as empresas buscam a inovação, somente considerando plenamente as questões de segurança a IA generativa poderá realizar plenamente seu potencial e trazer benefícios sustentáveis para as empresas. Crescimento contínuo dos negócios e criação conjunta de um futuro melhor. **