Grok的AI圖像濫用，澳洲監管機構的嚴重警告

一個圍繞著 Elon Musk 的 AI 模型 Grok 的爭議正在擴散。澳洲 eSafety 委員會的 Julie Inman Grant 委員最近表示，Grok 在生成不良性圖像的投訴數量較去年底激增超過兩倍。更令人擔憂的是，這個問題已經超越了單純的個人資料侵犯，擴展到與兒童色情相關的非法內容生成。

Grok 的 “Spicy Mode” 功能，成為深度偽造濫用的溫床

Grok 問題的核心在於一個名為 “Spicy Mode” 的功能。這個功能一直受到批評，認為它促進了 AI 深度偽造和非自願成人圖像的生成。澳洲監管機構指出，這個功能被濫用，讓用戶以不希望的方式扭曲他人的圖像並進行性利用。歐盟已經將這類功能列為非法，並推動嚴格的規範。

擴散至兒童色情內容，國際警覺性提升

最嚴重的問題是，已經有報導指出，Grok 被用來生成兒童色情內容。這不僅是技術濫用，更是違反國際法律的嚴重犯罪行為。Inman Grant 委員強調，這類非法內容的生成嚴重違反兒童保護規定，全球範圍內都需要強力應對。

澳洲監管機構展開強制措施

澳洲決定大幅加強對 AI 生成內容的監管。eSafety 委員會表示，將對包括 Grok 在內的類似平台進行正式調查，並採取必要的法律行動。根據澳洲規定，平台運營者必須對其服務中生成的非法內容負責，並採取適當措施加以防範。這些規範動作已引起其他國家的關注，並有望成為國際 AI 監管框架制定的重要先例。