因新增图像编辑功能被用户用于生成色情内容，美国企业家马斯克旗下人工智能企业 xAI 的聊天机器人 " 格罗克 ( Grok ) " 近日再度引发争议。
" 格罗克 " 由 xAI 公司开发，并内置于马斯克拥有的社交媒体 X 平台，X 用户可直接调用该聊天机器人。近日，X 平台出现部分用户利用 " 格罗克 " 编辑图片和视频的现象，部分内容可以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在 X 平台上散播，受害者包括数百名女性和未成年人。
这一乱象随即引起公愤。欧盟委员会负责数字经济事务的发言人托马斯 雷尼耶 5 日回应说，正 " 严肃调查 " 针对 " 格罗克 " 的相关投诉。" ‘格罗克’推出所谓‘热辣模式’，不仅展示露骨性内容，部分生成内容还带有儿童特征。这根本不是‘热辣内容’，而是违法行为，令人震惊。这种事在欧洲没有立足之地。"
这是 2025 年 4 月 2 日在比利时布鲁塞尔欧盟总部外拍摄的欧盟旗帜。新华社记者赵丁喆摄
同一天，英国网络安全监管机构通信管理局表示，注意到用户对上述功能的担忧，" 已紧急联系 X（平台）和 xAI，以了解它们在履行保护英国用户的法定义务方面具体采取了哪些措施 "，之后将根据回复，判定它们是否存在 " 值得调查的潜在合规问题 "。
另据印度媒体报道，印度信息技术部 2 日要求 X 平台删除色情内容、打击违规用户，并在 72 小时内提交 " 整改报告 "，否则将面临法律制裁。截至目前，尚不清楚 X 平台是否已就印方要求作出回应。
多名法国政府部长和国民议会议员 2 日也向法国司法部门报案。当日晚些时候，巴黎检方表示，将启动相关调查。
马来西亚通信和多媒体委员会上周末表示，" 严重关切 "X 平台上 " 不雅、冒犯性极强 " 的内容，正针对相关违规行为展开调查。马来西亚律师阿齐拉 阿齐兹告诉法新社，若只是出于娱乐目的，" 用 AI 给公众人物头像加个墨镜之类的倒也无可厚非 "，但未经当事人同意，" 利用 AI 对妇女儿童实施与性别相关的暴力，必须坚决反对 "。
X 平台 4 日就相关争议回应称，将对平台上的非法内容采取行动，包括删除相关内容、永久封禁账号，并在必要时与当地政府和执法部门合作。马斯克 3 日发帖表示，任何使用 " 格罗克 " 制作非法内容的人，都将面临与上传非法内容相同的后果。
