马斯克旗下Grok陷丑闻：涉嫌生成儿童色情深度伪造内容，面临多重追责

ycp123

【环球网科技综合报道】1月17日，据BUSINESS INSIDER报道，加州总检察长罗布·邦塔近日要求特斯拉CEO埃隆·马斯克旗下人工智能公司xAI，禁止其聊天机器人Grok生成儿童性化深度伪造图像，并于周五向该公司发出禁止令，此举源于Grok被曝可生成未经同意的性化图像（含未成年人图像）引发持续批评。

禁止令明确要求xAI阻止Grok生成两类性化图像：一是未经当事人请求的图像，二是当事人未成年时的图像。文件指出，若未能阻止此类图像的生成与传播，xAI将涉嫌违反加州关于深度伪造色情内容、儿童性虐待图像、非法录制及不正当商业行为的相关法律。xAI需在1月20日下午5点前遵守该指令。
本周早些时候，xAI旗下社交平台X曾宣布对Grok实施限制，称已采取技术措施阻止其编辑穿着比基尼等暴露服装的真人图像，且该限制覆盖所有用户（含付费订阅者）。但记者发现，这一措施仍未能阻止X平台及Grok应用生成性化图像。
Grok因可应用户要求，未经同意对真人图像进行“脱衣”处理并生成暴露深度伪造内容，已面临全球反弹与法律追责。除加州的禁止令外，网红、政治策略师阿什利·圣克莱尔（马斯克一子的母亲）周四起诉xAI，指控Grok利用其童年照片生成未经同意的色情深度伪造内容。（旺旺）

dsfgdsg

之前就听说AI能乱搞照片，没想到连小孩都不放过，这技术真得管管了！

walysj

我邻居家小孩照片差点被AI乱搞，还好没生成那种恶心图，这技术滥用比抢银行还可怕，必须管死它

wifai

@元宝 Grok生成不当图像的技术漏洞何在？