對話亞馬遜雲科技代聞：把安全作為企業AI戰略發展中的核心環節

來源：大模型之家

作者：喬志斌

如今，隨著生成式AI已經廣泛應用於各行各業，為企業帶來了前所未有的創新和效率提升。從自然語言處理到計算機視覺，生成式AI在醫療、金融、零售、製造等領域都展現出了強大的潛力。

然而，隨著生成式AI的普及，企業和組織不僅需要關注數據的隱私和安全，還需要確保模型和應用程序受到充分的保護，以防止潛在的攻擊和數據洩露。人工智能的安全問題也愈發引起了行業的重視，促使各行各業對尋求可靠的解決方案以平衡創新和安全性的需求。

圖源：2023亞馬遜雲科技re:Inforce中國站

在近日落下帷幕的“2023亞馬遜雲科技re:Inforce中國站”大會上，亞馬遜雲科技指出：“安全是構建生成式AI不可迴避的重要議題，企業只有在AI旅程中做好數據、模型和應用的安全防護，才能更好地借助AI加速業務創新。”

亞馬遜雲科技大中華區解決方案架構部總監代聞強調：“從構建開始，我們就需要把安全作為企業AI戰略發展中的核心環節。這就要求我們不能只是關注AI應用本身，而是從一個全棧的角度，去全面審視應用、模型、數據、基礎架構的安全規範、技術策略和平台工具。生成式AI應用就像是海面上的冰山，我們想要在企業里安全地駕馭這項新技術，還需要關注海面下的冰川。”

此外，亞馬遜雲科技還正式推出了“敏感數據保護解決方案”，這一解決方案可實現對企業敏感數據的自動化發現和統一管理，為數據治理提供了便利。同時，他們還引入了多項新的安全服務和功能，如Amazon Verified Permissions、Amazon CodeGuru Security、Findings Groups for Amazon Detective等，這些工具和服務幫助客戶構建應用程序的零信任管理，提高漏洞發現和響應的智能化程度。

在會後，大模型之家與亞馬遜雲科技在人工智能安全領域的相關負責人，更加深入地探討了在生成式AI能力與應用爆發的今天，雲安全呈現出的全新局面，以及面對新格局，亞馬遜雲科技又進行了哪些前瞻佈局。

數據和模型安全是構建AI應用的關鍵

如今，生成式AI已經從+AI（AI賦能）時代轉變為AI+（AI原生）時代，由業務部門主導需求的變化是明顯的趨勢，生成式AI為企業帶來了更高的效率和業務價值，但同時也帶來了新的安全挑戰。全球性安全組織OWASP列出的2023年大語言模型面臨的十大威脅，包括數據洩露等問題。同時，生成式AI和大語言模型對企業內部管控機制也帶來了新的挑戰。

圖源：2023亞馬遜雲科技re:Inforce中國站

對此，代聞指出，在面對這些新挑戰時，需要執行“負責任的AI（Responsible AI）”原則，並使用合適的工具和解決方案來解決問題，包括數據保護、隱私數據處理、運行環境安全等。代聞還談到了將AI的能力納入安全審計流程，以實現安全和合規性。

在以大模型為代表的生成式AI的發展過程中，數據和模型安全是構建AI應用的關鍵。數據安全方面，亞馬遜雲科技提供全週期的數據治理，從數據源的獲取到數據的存儲和查詢，再到數據傳輸給AI平台進行模型訓練、調優和推理，以及數據分類和治理。他們強調了高質量的數據對於構建生成式AI的重要性，並採取了多層次的數據保護措施，包括數據存儲的安全密鑰管理、數據傳輸的加密以及使用中的數據保護，以防止數據洩漏和篡改。

在模型安全方面，模型訓練後進入生產環境的安全同樣關鍵。亞馬遜雲科技推出了Amazon Bedrock，提供廣泛的基礎模型，並確保客戶可以選擇適合其需求的模型。 Amazon Bedrock負責管理底層基礎設施，同時與合作夥伴合作，以提供最合適和最強大的基礎模型。他們強調了客戶數據的隱私和安全，保證數據只在客戶賬戶內使用，並不會與其他模型共享。此外，亞馬遜雲科技提供了一系列安全功能，如Amazon KMS和Amazon IAM，以管理加密、權限控制和行為日誌。他們還提供了自己的大模型Amazon Titan，支持負責任AI的實現，以減少和消除不當或有害的內容。

應用安全是實現AI價值的保障

在實現AI的價值過程中，應用安全是一道不可忽視的環節。首先，它保障了用戶數據的隱私和完整性，防止未經授權的訪問和洩露，確保敏感信息得到妥善保護。其次，應用安全對抗惡意攻擊，包括數據篡改、拒絕服務攻擊等，維護了應用的可用性和性能，減少了潛在的損害。此外，通過建立強大的安全性，應用能夠贏得用戶的信任，維護聲譽，避免用戶流失，從而保持商業成功。合規性要求也需要應用安全，以確保符合國際、行業或地區的法規，避免法律風險。最後，應用安全有助於長期可持續性，減少未來維護和修復漏洞的成本，降低法律訴訟和損失的風險。

隨著雲上負載業務的增長，安全全面雲化正在成為行業的大勢所趨。亞馬遜雲科技大中華區安全合規與治理產品總監白帆指出，雲上業務正在呈現由物理邊界向邏輯邊界的演變，這對雲安全產生了重大影響，因此安全必須在產品設計的早期考慮，而不是事後補救。

因此，在開發流程中的安全（DevSecOps）階段，亞馬遜雲科技通過將安全融入整個軟件開發的生命週期，從開發、持續集成、持續部署、投產、監控到反饋，來確保應用程序的安全性。其提供的AI開發安全能力包括Amazon CodeWhisperer，這是一個實時生成代碼建議的AI編程助手，內置代碼安全掃描功能，有助於查找和修復漏洞，以及Amazon CodeGuru Security，可用於掃描代碼以尋找漏洞，並在CICD過程中自動降低誤報率，易於集成到開發工作流中。

此外，在運行安全階段，亞馬遜雲科技採用零信任的應用安全訪問策略，以確保只有具有特定權限的應用程序才能訪問或調用大模型的特定API。亞馬遜雲科技提供了多個工具來幫助客戶構建這種機制，包括Amazon Verified Access，用於構建可信任的無需VPN的網絡通道，Amazon Verified Permissions，提供細粒度的授權和權限管理，以及開源語言CEDAR ，用於編寫和執行授權策略。

此外，在網絡控制方面，亞馬遜雲科技提供了一系列工具來應對網絡防護和威脅識別，其中Amazon GuardDuty使用人工智能和機器學習技術來減少安全事件的誤報率，實現初期的檢測和持續分析，以智能化的方式提供採取行動的建議。

白帆向大模型之家透露，在亞馬遜雲科技內部，“零信任”這個名詞由來已久，並已經發展成為一套完整的機制，這個機制基於工具、方法論以及實踐。亞馬遜雲科技一直在身體力行地推進這三個方面。零信任涉及到許多工具，如Amazon Verified Permissions和Amazon Verified Access，以及依託於IAM的權限管控，這些工具共同構成了零信任的工俱生態。此外，生成式AI和大模型的興起讓更多公司接觸到AI技術，但可能缺乏完備的IT和安全基礎。因此，亞馬遜雲科技提供了工具如Amazon CodeWhisperer來生成安全代碼並檢測安全漏洞，並提供Verified Permissions來管理內部權限，支持策略管理、審計等功能，以幫助企業輕鬆應對權限管控和安全需求。亞馬遜雲科技將零信任理念以更易用的方式呈現，讓開發者和企業可以根據自身需求構建零信任的能力，因此這些服務和能力都可以根據需要拆分使用，而不是一個封閉的整體方案。這種零信任的實踐方式有助於提高應用程序的安全性和可管理性。

對於雲上安全產品，白帆還強調了可擴展性和自動化的重要性，以適應不斷增長的業務需求。他指出，**亞馬遜雲科技所有的能力也是秉持長期主義，而且一定是要自身打磨和使用了以後才走向市場，並高度推崇自動化，將人為錯誤降至最低。這種自動化應用於權限控制、檢測能力以及底層技術架構，確保安全能力能夠自動擴展，而不需要手動重新部署或調整，這對於應對業務激增至關重要。 **

AI技術的發展必須與安全同行，將安全視為首要和最高的優先級。亞馬遜雲科技也在會上呼籲，客戶需始終處於AI應用的核心，安全必須深入到每一個環節，只有如此，才能共同構建更加安全、可靠和有益的AI未來。

在大模型之家看來，**隨著生成式AI技術的不斷進步，企業在追求創新的同時，只有充分考慮安全問題的前提下，生成式AI才能充分發揮其潛力，為企業帶來可持續的商業增長，共同開創更加美好的未來。 **