Anthropic警告，隨着AI能力的加速，網路攻擊的防線已經崩潰

Anthropic表示人工智能(AI)在網路安全方面達到了一個關鍵的閾值，新的證據表明，AI模型現在能夠以空前的規模執行重要的網路操作——包括防御和攻擊。

人工智能在網路安全中達到了臨界點，Anthropic在新調查中警告

人工智能公司Anthropic（Claude的背後公司）表示，其內部評估和威脅情報工作顯示網路能力發展的決定性轉變。根據最近發布的調查，AI系統的網路能力在六個月內翻了一番，這一結果得到了現實活動和模型測試的測量支持。

該公司表示，人工智能現在正在有意義地影響全球安全動態，尤其是當惡意行爲者越來越多地採用自動化攻擊框架時。在其最新報告中，Anthropic 詳細描述了其所稱的首個記錄在案的 AI 策劃的網路間諜活動。該公司的威脅情報團隊在 2025 年 9 月中旬識別並破壞了一項大規模行動，該行動被歸因於一個被指定爲 GTG-1002 的中國國家支持的團體。

Source： X 該組織 reportedly 使用協調的 Claude Code 實例進行偵察、漏洞發現、利用、橫向移動、元數據提取和數據外泄——在很大程度上沒有人類參與。該行動大約針對 30 個組織，涵蓋技術、金融、化學和多個政府機構等行業。Anthropic 在幹預之前驗證了幾次成功的入侵。

來源：Anthropic報告。 分析師表示，攻擊者利用了一種自主框架，能夠將多階段攻擊分解爲看似合法的較小任務，這些任務在與更廣泛的上下文隔離時顯得合理。這使得攻擊者能夠通過已建立的人物形象傳遞提示，並說服Claude認爲這些操作是防御性安全測試，而不是進攻性活動。

根據調查，克勞德自主執行了80%到90%的戰術操作。人類操作員僅提供戰略監督，批準主要步驟，如從偵察升級到主動利用或授權數據外泄。報告描述了一種人類團隊無法實現的操作節奏，一些工作流程每秒生成多個操作，處理成千上萬的請求。

來源：安索普報告。 Anthropic表示，攻擊生命週期通過一個結構化的流程推進，每個階段的AI自主性都在增加。Claude獨立映射攻擊面，掃描實時系統，爲驗證過的漏洞構建自定義有效載荷，收集憑據，並在內部網路中進行橫向移動。它還分析了被盜數據，識別了高價值情報，並自動生成詳細的操作文檔，支持持續訪問和操作員之間的交接。

報告指出的一個局限性是，該模型在攻擊性工作負載下容易出現幻覺——偶爾誇大訪問，僞造憑證，或將公開可用信息錯誤分類爲敏感信息。盡管如此，Anthropic表示，行爲者通過驗證步驟進行了補償，表明盡管當今模型存在缺陷，完全自主的攻擊性操作仍然可行。

在發現這一情況後，Anthropic 禁止了相關帳戶，通知了受影響的實體，與當局協調，並引入了新的防御機制，包括改進的分類器以檢測新型威脅模式。該公司現在正在原型設計早期預警系統，旨在標記自主入侵嘗試，並爲大規模分布式網路操作構建新的調查工具。

閱讀更多: 微軟的‘Magentic Marketplace’揭示了AI代理如何在壓力下崩潰

該公司辯稱，雖然這些能力可以被武器化，但它們對於增強防御準備同樣至關重要。Anthropic指出，它自己的威脅情報團隊在調查期間大量依賴Claude來分析生成的大型數據集。它呼籲安全團隊開始採用基於AI的自動化來支持安全操作中心、威脅檢測、漏洞分析和事件響應。

然而，報告警告稱，網路攻擊的障礙已經“明顯下降”，因爲人工智能系統使得小團體甚至個人能夠執行曾經僅限於資金雄厚的國家行爲者的操作。Anthropic預計這些技術將在更廣泛的威脅環境中迅速傳播，呼籲加深合作、改善防御保障以及更廣泛的行業參與威脅共享，以應對新興的人工智能驅動攻擊模式。

常見問題 ❓

• **Anthropic在調查中發現了什麼？**Anthropic識別並破壞了一項大規模的網路間諜活動，該活動利用人工智能自動化大部分攻擊操作。
• **攻擊背後是誰？**該公司將此次行動歸因於一個被指定爲GTG-1002的中國國家支持的組織。
• **AI是如何在入侵中被使用的？**攻擊者利用Claude Code自主執行偵察、利用、橫向移動和數據提取。
• **爲什麼這份報告對網路安全團隊很重要？**Anthropic表示，該案例表明，基於自主AI的攻擊現在在規模上是可行的，並且需要新的防御策略。