現在、生成 AI はあらゆる分野で広く使用されており、企業に前例のない革新と効率の向上をもたらしています。自然言語処理からコンピューター ビジョンに至るまで、生成 AI は医療、金融、小売、製造などの分野で大きな可能性を示しています。
しかし、生成 AI がさらに普及するにつれて、企業や組織はデータのプライバシーとセキュリティに重点を置くだけでなく、潜在的な攻撃やデータ漏洩に対してモデルやアプリケーションが適切に保護されていることを確認する必要もあります。人工知能のセキュリティ問題も業界からますます注目を集めており、あらゆる階層がイノベーションとセキュリティのバランスをとるための信頼できるソリューションを求めるようになっています。
出典: 2023 Amazon Cloud Technology re:Inforce China Station
最近閉幕した「2023 Amazon Cloud Technology re:Inforce China」カンファレンスで、Amazon Cloud Technology は次のように指摘しました。「セキュリティは生成 AI の構築において避けられない重要な問題です。企業は AI で適切なデータ、モデル、アプリケーションのみを実行できます。セキュリティ保護を強化してのみ、AI をより効果的に活用してビジネス イノベーションを加速することができます。」
Amazon Cloud Technology Greater China ソリューション アーキテクチャ部門ディレクターの Dai Wen 氏は、次のように強調しました。「構築の初期段階から、セキュリティをエンタープライズ AI 戦略の開発における中核的なリンクとみなす必要があります。そのためには、セキュリティだけを重視する必要はありません。」 AI アプリケーションそのものですが、フルスタックの観点から、アプリケーション、モデル、データ、インフラストラクチャのセキュリティ仕様、技術戦略、プラットフォーム ツールを包括的に検討する必要があります。生成型 AI アプリケーションは海上の氷山のようなものです。 「私たちはこの新しいテクノロジーを企業内で安全に管理したいと考えています。テクノロジー、海底の氷河にも注意を払う必要があります。」
現在、生成型 AI は +AI (AI empowered) 時代から AI+ (AI Native) 時代へ移り変わり、事業部門主導の需要の変化は明らかな傾向であり、生成型 AI は企業とビジネスの効率性の向上をもたらしています。価値はありますが、セキュリティ上の新たな課題ももたらします。世界的なセキュリティ組織 OWASP は、データ漏洩やその他の問題を含め、2023 年に大規模言語モデルが直面する脅威トップ 10 をリストしています。同時に、生成 AI と大規模言語モデルは、企業の内部管理および制御メカニズムに新たな課題ももたらします。
出典: 2023 Amazon Cloud Technology re:Inforce China Station
これに関連して、ダイウェン氏は、これらの新たな課題に直面する際には、「責任あるAI」の原則を実践し、データ保護、プライバシーデータ処理、運用環境安全性などを含む問題を解決するために適切なツールとソリューションを使用する必要があると指摘した。 Daiwen 氏は、セキュリティとコンプライアンスを達成するために AI の機能をセキュリティ監査プロセスに組み込むことについても話しました。
大規模なモデルに代表される生成 AI の開発プロセスでは、データとモデルのセキュリティが AI アプリケーションを構築するための鍵となります。データセキュリティの面では、Amazon Cloud Technology は、データソースの取得からデータの保存とクエリ、モデルのトレーニング、調整、推論、データ分類のための AI プラットフォームへのデータ送信に至るまで、フルサイクルのデータガバナンスを提供します。そしてガバナンス。彼らは、生成 AI の構築には高品質のデータの重要性を強調し、データ保管場所の安全な鍵管理、データ送信の暗号化、データ漏洩や改ざんを防ぐための使用中のデータ保護など、多層的なデータ保護対策を採用しました。
AI の価値を実現する過程において、アプリケーションのセキュリティは無視できない関係です。まず、ユーザー データのプライバシーと完全性が保証され、不正なアクセスと漏洩が防止され、機密情報が適切に保護されます。第 2 に、アプリケーションのセキュリティは、データ改ざんやサービス拒否攻撃などの悪意のある攻撃に対抗し、アプリケーションの可用性とパフォーマンスを維持し、潜在的な損害を軽減します。さらに、強力なセキュリティを構築することで、アプリケーションはユーザーの信頼を獲得し、評判を維持し、ユーザーの離脱を回避し、商業的な成功を維持することができます。コンプライアンス要件には、国際、業界、または地域の規制への準拠を確保し、法的リスクを回避するためのアプリケーション セキュリティも必要です。最後に、アプリケーションのセキュリティは長期的な持続可能性に貢献し、将来のメンテナンスと脆弱性の修正にかかるコストを削減し、法的措置や損失のリスクを軽減します。
クラウド負荷サービスの成長に伴い、包括的なクラウド セキュリティが業界の一般的なトレンドになりつつあります。 Amazon Cloud Technology Greater China のセキュリティ コンプライアンスおよびガバナンス担当プロダクト ディレクターである Bai Fan 氏は、クラウド ビジネスは物理的な境界から論理的な境界へと進化しており、クラウドのセキュリティに大きな影響を与えているため、初期段階でセキュリティを考慮する必要があると指摘しました。それは後付けの考えではありません。
Bai Fan 氏は Big Model House に対し、Amazon クラウドテクノロジー内では「ゼロトラスト」という用語が長い間存在しており、ツール、方法論、実践に基づいた完全なメカニズムに発展していることを明らかにしました。 Amazon Cloud Technology は、これら 3 つの側面を積極的に推進してきました。ゼロトラストには、Amazon Verified Permissions や Amazon Verified Access などの多くのツールや、IAM に基づくアクセス許可の管理と制御が含まれており、これらのツールが一緒になってゼロトラスト ツール エコシステムを形成します。さらに、生成 AI と大規模モデルの台頭により、より多くの企業が AI テクノロジーにさらされるようになりましたが、完全な IT およびセキュリティ基盤が不足している可能性があります。したがって、Amazon Cloud Technology は、安全なコードを生成してセキュリティの脆弱性を検出するための Amazon CodeWhisperer などのツールを提供し、内部アクセス許可を管理し、ポリシー管理、監査、および企業がアクセス許可制御とセキュリティ要件に簡単に対応できるようにするその他の機能をサポートする検証済みアクセス許可を提供します。 Amazon クラウド テクノロジーは、ゼロトラストの概念をよりユーザーフレンドリーな方法で提示し、開発者や企業が独自のニーズに応じてゼロトラスト機能を構築できるようにします。したがって、これらのサービスと機能は、必要に応じて分割して使用できます。閉じた全体的なソリューション。このゼロトラストの実践は、アプリケーションの安全性と管理性を高めるのに役立ちます。
Bai Fan 氏は、クラウド セキュリティ製品について、増大するビジネス ニーズに適応するための拡張性と自動化の重要性も強調しました。同氏は、Amazon Cloud Technology のすべての機能も長期主義に準拠しており、市場投入前に独自に磨き上げて使用する必要があると指摘し、人的エラーを最小限に抑えるために自動化を強く推奨しています。この自動化は、権限制御、検出機能、および基盤となる技術アーキテクチャに適用され、手動での再展開や調整を必要とせずにセキュリティ機能を自動的に拡張できるようにします。これは、ビジネスの急増に対処するために不可欠です。 **
AI技術の開発は安全性と両立しなければならず、安全性は最優先事項と見なされるべきです。 Amazon Cloud Technology はまた、「顧客は常に AI アプリケーションの中核に立つ必要があり、セキュリティはすべてのリンクに組み込まれなければなりません。この方法によってのみ、より安全で信頼性が高く有益な AI の未来を共同で構築することができるのです」と会議で呼びかけました。
ビッグモデルハウスの見解では、生成 AI テクノロジーが継続的に進歩し、企業がイノベーションを追求する一方で、セキュリティ問題を十分に考慮することによってのみ、生成 AI の可能性を最大限に発揮し、企業に持続可能な利益をもたらすことができます。より良い未来を。 **
Amazon クラウドテクノロジーニュースとの対話: セキュリティをエンタープライズ AI 戦略開発の中核に据える
出典：ビッグモデルハウス
著者:喬志斌
現在、生成 AI はあらゆる分野で広く使用されており、企業に前例のない革新と効率の向上をもたらしています。自然言語処理からコンピューター ビジョンに至るまで、生成 AI は医療、金融、小売、製造などの分野で大きな可能性を示しています。
しかし、生成 AI がさらに普及するにつれて、企業や組織はデータのプライバシーとセキュリティに重点を置くだけでなく、潜在的な攻撃やデータ漏洩に対してモデルやアプリケーションが適切に保護されていることを確認する必要もあります。人工知能のセキュリティ問題も業界からますます注目を集めており、あらゆる階層がイノベーションとセキュリティのバランスをとるための信頼できるソリューションを求めるようになっています。
最近閉幕した「2023 Amazon Cloud Technology re:Inforce China」カンファレンスで、Amazon Cloud Technology は次のように指摘しました。「セキュリティは生成 AI の構築において避けられない重要な問題です。企業は AI で適切なデータ、モデル、アプリケーションのみを実行できます。セキュリティ保護を強化してのみ、AI をより効果的に活用してビジネス イノベーションを加速することができます。」
Amazon Cloud Technology Greater China ソリューション アーキテクチャ部門ディレクターの Dai Wen 氏は、次のように強調しました。「構築の初期段階から、セキュリティをエンタープライズ AI 戦略の開発における中核的なリンクとみなす必要があります。そのためには、セキュリティだけを重視する必要はありません。」 AI アプリケーションそのものですが、フルスタックの観点から、アプリケーション、モデル、データ、インフラストラクチャのセキュリティ仕様、技術戦略、プラットフォーム ツールを包括的に検討する必要があります。生成型 AI アプリケーションは海上の氷山のようなものです。 「私たちはこの新しいテクノロジーを企業内で安全に管理したいと考えています。テクノロジー、海底の氷河にも注意を払う必要があります。」
さらに、Amazon Cloud Technologyは、企業の機密データの自動検出と一元管理を実現し、データガバナンスの利便性を提供する「機密データ保護ソリューション」も正式に開始しました。同時に、Amazon Verified Permissions、Amazon CodeGuru Security、Amazon Detective の調査結果グループなど、多数の新しいセキュリティ サービスと機能も導入しました。これらのツールとサービスは、顧客がアプリケーションのゼロトラスト管理を構築し、セキュリティを向上させるのに役立ちます。脆弱性の発見と対応、知能の程度。
会議の後、ビッグモデルハウスとアマゾンクラウドテクノロジーの人工知能セキュリティ分野の担当者は、今日の生成型AIの機能とアプリケーションの爆発的な増加におけるクラウドセキュリティの新たな状況と、新たな問題にどう対処するかについてさらに詳しく議論しました。状況、パターン、Amazon Cloud Technology がどのような先進的なレイアウトを作成したか。
データとモデルのセキュリティは AI アプリケーション構築の鍵です
現在、生成型 AI は +AI (AI empowered) 時代から AI+ (AI Native) 時代へ移り変わり、事業部門主導の需要の変化は明らかな傾向であり、生成型 AI は企業とビジネスの効率性の向上をもたらしています。価値はありますが、セキュリティ上の新たな課題ももたらします。世界的なセキュリティ組織 OWASP は、データ漏洩やその他の問題を含め、2023 年に大規模言語モデルが直面する脅威トップ 10 をリストしています。同時に、生成 AI と大規模言語モデルは、企業の内部管理および制御メカニズムに新たな課題ももたらします。
これに関連して、ダイウェン氏は、これらの新たな課題に直面する際には、「責任あるAI」の原則を実践し、データ保護、プライバシーデータ処理、運用環境安全性などを含む問題を解決するために適切なツールとソリューションを使用する必要があると指摘した。 Daiwen 氏は、セキュリティとコンプライアンスを達成するために AI の機能をセキュリティ監査プロセスに組み込むことについても話しました。
大規模なモデルに代表される生成 AI の開発プロセスでは、データとモデルのセキュリティが AI アプリケーションを構築するための鍵となります。データセキュリティの面では、Amazon Cloud Technology は、データソースの取得からデータの保存とクエリ、モデルのトレーニング、調整、推論、データ分類のための AI プラットフォームへのデータ送信に至るまで、フルサイクルのデータガバナンスを提供します。そしてガバナンス。彼らは、生成 AI の構築には高品質のデータの重要性を強調し、データ保管場所の安全な鍵管理、データ送信の暗号化、データ漏洩や改ざんを防ぐための使用中のデータ保護など、多層的なデータ保護対策を採用しました。
モデルのセキュリティに関しては、トレーニング後に実稼働環境に入るモデルのセキュリティも同様に重要です。 Amazon Cloud Technologies は、幅広いベースモデルを提供し、顧客がニーズに合ったモデルを選択できるようにする Amazon Bedrock を開始しました。 Amazon Bedrock は、パートナーと協力して基盤となるインフラストラクチャを管理し、最も適切で強力な基盤となるモデルを提供します。これらは顧客データのプライバシーとセキュリティを重視し、データが顧客アカウント内でのみ使用され、他のモデルと共有されないことを保証します。さらに、Amazon Cloud Technology は、暗号化、アクセス許可制御、動作ログを管理するための、Amazon KMS や Amazon IAM などの一連のセキュリティ機能を提供します。また、不適切または有害なコンテンツを削減および排除する責任ある AI の実装をサポートする独自の大規模モデル Amazon Titan も提供しています。
アプリケーションのセキュリティは、AI の価値を実現するための保証です
AI の価値を実現する過程において、アプリケーションのセキュリティは無視できない関係です。まず、ユーザー データのプライバシーと完全性が保証され、不正なアクセスと漏洩が防止され、機密情報が適切に保護されます。第 2 に、アプリケーションのセキュリティは、データ改ざんやサービス拒否攻撃などの悪意のある攻撃に対抗し、アプリケーションの可用性とパフォーマンスを維持し、潜在的な損害を軽減します。さらに、強力なセキュリティを構築することで、アプリケーションはユーザーの信頼を獲得し、評判を維持し、ユーザーの離脱を回避し、商業的な成功を維持することができます。コンプライアンス要件には、国際、業界、または地域の規制への準拠を確保し、法的リスクを回避するためのアプリケーション セキュリティも必要です。最後に、アプリケーションのセキュリティは長期的な持続可能性に貢献し、将来のメンテナンスと脆弱性の修正にかかるコストを削減し、法的措置や損失のリスクを軽減します。
クラウド負荷サービスの成長に伴い、包括的なクラウド セキュリティが業界の一般的なトレンドになりつつあります。 Amazon Cloud Technology Greater China のセキュリティ コンプライアンスおよびガバナンス担当プロダクト ディレクターである Bai Fan 氏は、クラウド ビジネスは物理的な境界から論理的な境界へと進化しており、クラウドのセキュリティに大きな影響を与えているため、初期段階でセキュリティを考慮する必要があると指摘しました。それは後付けの考えではありません。
したがって、開発プロセスのセキュリティ (DevSecOps) 段階では、Amazon Cloud Technology は、開発、継続的インテグレーション、継続的デプロイメント、実稼働、モニタリングからフィードバックに至るソフトウェア開発ライフサイクル全体にセキュリティを統合することで、アプリケーションのセキュリティを確保します。 AI 開発セキュリティ機能には、コードの提案をリアルタイムで生成する AI プログラミング アシスタントである Amazon CodeWhisperer と、脆弱性の発見と修正に役立つコード セキュリティ スキャンが組み込まれているほか、コードの脆弱性をスキャンするために使用できる Amazon CodeGuru Security が含まれます。また、CICD プロセス中の誤検知率も自動的に低減され、開発ワークフローに簡単に統合できます。
さらに、運用セキュリティ段階では、Amazon Cloud Technology はゼロトラスト アプリケーション セキュリティ アクセス ポリシーを採用し、特定のアクセス許可を持つアプリケーションのみが大規模モデルの特定の API にアクセスまたは呼び出しできるようにします。 Amazon クラウド テクノロジーは、信頼できる VPN フリーのネットワーク チャネルを構築するために使用される Amazon Verified Access、きめ細かい認可と権限管理を提供する Amazon Verified Permissions、オープンソース言語 CEDAR など、顧客がこのメカニズムを構築するのに役立つ複数のツールを提供します。 、認可ポリシーを作成して適用するために使用されます。
さらに、ネットワーク制御に関しては、Amazon Cloud Technology がネットワーク保護と脅威の特定に対処するための一連のツールを提供しており、その中で Amazon GuardDuty は人工知能と機械学習テクノロジーを使用して、セキュリティ イベントの誤警報率を削減し、初期設定を達成します。検出と継続的な分析、行動のためのインテリジェントな推奨事項。
Bai Fan 氏は Big Model House に対し、Amazon クラウドテクノロジー内では「ゼロトラスト」という用語が長い間存在しており、ツール、方法論、実践に基づいた完全なメカニズムに発展していることを明らかにしました。 Amazon Cloud Technology は、これら 3 つの側面を積極的に推進してきました。ゼロトラストには、Amazon Verified Permissions や Amazon Verified Access などの多くのツールや、IAM に基づくアクセス許可の管理と制御が含まれており、これらのツールが一緒になってゼロトラスト ツール エコシステムを形成します。さらに、生成 AI と大規模モデルの台頭により、より多くの企業が AI テクノロジーにさらされるようになりましたが、完全な IT およびセキュリティ基盤が不足している可能性があります。したがって、Amazon Cloud Technology は、安全なコードを生成してセキュリティの脆弱性を検出するための Amazon CodeWhisperer などのツールを提供し、内部アクセス許可を管理し、ポリシー管理、監査、および企業がアクセス許可制御とセキュリティ要件に簡単に対応できるようにするその他の機能をサポートする検証済みアクセス許可を提供します。 Amazon クラウド テクノロジーは、ゼロトラストの概念をよりユーザーフレンドリーな方法で提示し、開発者や企業が独自のニーズに応じてゼロトラスト機能を構築できるようにします。したがって、これらのサービスと機能は、必要に応じて分割して使用できます。閉じた全体的なソリューション。このゼロトラストの実践は、アプリケーションの安全性と管理性を高めるのに役立ちます。
Bai Fan 氏は、クラウド セキュリティ製品について、増大するビジネス ニーズに適応するための拡張性と自動化の重要性も強調しました。同氏は、Amazon Cloud Technology のすべての機能も長期主義に準拠しており、市場投入前に独自に磨き上げて使用する必要があると指摘し、人的エラーを最小限に抑えるために自動化を強く推奨しています。この自動化は、権限制御、検出機能、および基盤となる技術アーキテクチャに適用され、手動での再展開や調整を必要とせずにセキュリティ機能を自動的に拡張できるようにします。これは、ビジネスの急増に対処するために不可欠です。 **
AI技術の開発は安全性と両立しなければならず、安全性は最優先事項と見なされるべきです。 Amazon Cloud Technology はまた、「顧客は常に AI アプリケーションの中核に立つ必要があり、セキュリティはすべてのリンクに組み込まれなければなりません。この方法によってのみ、より安全で信頼性が高く有益な AI の未来を共同で構築することができるのです」と会議で呼びかけました。
ビッグモデルハウスの見解では、生成 AI テクノロジーが継続的に進歩し、企業がイノベーションを追求する一方で、セキュリティ問題を十分に考慮することによってのみ、生成 AI の可能性を最大限に発揮し、企業に持続可能な利益をもたらすことができます。より良い未来を。 **