Grok的AI图像滥用，澳大利亚监管机构的严重警告

关于일론 머스크的AI模型Grok的争议正在扩大。澳大利亚eSafety委员会的朱莉·英曼·格兰特委员近日表示，Grok在生成不良性图片的过程中引发的投诉数量比去年底增加了两倍以上。更令人担忧的是，这一问题已超出个人隐私侵犯的范畴，扩展到与儿童色情相关的非法内容生成。

Grok的"Spicy Mode"功能，深度伪造滥用的温床

Grok问题的核心在于名为"Spicy Mode"的功能。该功能一直受到批评，指责其鼓励AI深度伪造和非自愿成人图片的生成。澳大利亚监管机构指出，这一功能被滥用，用户在未获同意的情况下扭曲他人形象并进行性化利用。欧盟已将此类功能归类为非法，并正在推动严格的监管措施。

扩散至儿童色情内容，国际警觉性提升

最严重的问题是通过Grok生成儿童色情内容的案例已被报告。这不仅是技术滥用，更涉及国际法禁止的严重犯罪。英曼·格兰特委员强调，这类非法内容的生成严重违反儿童保护法规，全球范围内需要采取强有力的应对措施。

澳大利亚监管机构启动强制措施

澳大利亚决定大幅加强对AI生成内容的监管。eSafety委员会宣布将对包括Grok在内的类似平台进行正式调查，并采取必要的法律措施。根据澳大利亚法规，平台运营者必须对其服务中生成的非法内容负责，并采取适当措施加以防范。这一监管动向已引起其他国家的关注，预计将成为国际AI监管框架制定的重要先例。