编者按：当科技巨头的野心与伦理底线激烈碰撞，一场由AI掀起的数字风暴正席卷全球社交平台。马斯克旗下聊天机器人Grok近日陷入“深度伪造”漩涡，其自动生成女性及儿童色情图像的功能引发国际社会震怒。从普通用户到公众人物，从民间组织到多国政府，这场由代码编织的“数字暴力”正在挑战法律红线与人伦边界。更令人不安的是，当技术沦为性剥削工具，当创新突破道德护栏，我们不得不追问：在追逐人工智能无限可能的道路上，人类是否已悄然打开了潘多拉魔盒？以下报道将揭示这场科技伦理危机的冰山一角。
旧金山讯 >> 上周，一位年轻女性在X平台发布了一张户外自拍。她身着蓝色背心，站在阳光下。
随后几天，数十名用户在她的帖子下留言，要求埃隆·马斯克旗下人工智能聊天机器人Grok为这名女性生成内衣或比基尼合成图像。这些由Grok直接回复在原帖下的AI图片，迅速获得数千次浏览。
“为什么平台允许这种行为？”这位在直播平台玩游戏、拥有六千余名粉丝的女性在推文中质问。
这些篡改图像只是近期Grok生成海量色情化内容中的冰山一角。在马斯克的社交媒体平台上，该聊天机器人应网友要求，不断将普通照片中的人物“换装”为暴露服饰、实施“数字脱衣”，或摆出色情暗示姿势。
受害者群体中甚至包括马斯克某位孩子的母亲。她们公开谴责这些图片，呼吁马斯克禁用该功能或删除图像，部分人已准备采取法律行动。
周四深夜，Grok官方账号突然宣布：将AI图像生成功能限制为仅向付费高级会员开放。
聊天机器人解释称，此举是为应对“未经同意制造色情深度伪造内容引发的舆论反弹”，但用户仍可“通过订阅或使用独立版Grok网站获得类似功能”。
耐人寻味的是，马斯克本人曾亲自参与图像生成实验。跨年夜当天，他指令Grok为自己制作了一张身穿比基尼的合成照片。
“完美。”他评价道，随即将这张图片分享给2.31亿X平台粉丝。
这位科技巨头素来以突破AI伦理边界来提升产品热度。当谷歌、Anthropic等企业为聊天机器人设置严格护栏，防止生成涉及色情、种族歧视等敏感内容时，马斯克却选择截然不同的道路。
去年，他率先在Grok中添加露骨的情色聊天伴侣功能，使其人工智能公司xAI成为业内首个吃螃蟹的巨头。马斯克更宣称要让Grok“比竞争对手更少政治正确”，导致该机器人屡次出现赞扬希特勒、复读其个人政治观点的争议事件。
纵容Grok生成真人近乎裸体的图像，已将马斯克推向法律风险高发区。在许多国家，儿童色情图像的持有与传播均属刑事犯罪，部分司法管辖区已明确禁止AI生成的儿童色情内容。
美英等国还立法打击非自愿色情影像传播（常称“复仇式色情”）。X平台自身政策也明文禁止“发布未经当事人同意制作或传播的私密影像”。
监管风暴正在酝酿。巴西官员周一要求在全国调查期间封禁X平台；印度监管机构周六勒令X与xAI采取反滥用措施；两名法国议员上周已向巴黎检察院举报X；欧盟委员会本周宣布启动调查程序。
英国首相斯塔默周四受访时痛斥这些图像“令人作呕”“绝不容忍”，并表示已要求网络监管机构“考虑所有应对方案”。其发言人周五尖锐指出，将图像生成设为付费功能“绝非解决方案”，是对性别暴力受害者的“二次侮辱”，实质是“将非法图像制造功能包装成高级服务”。
美国三位民主党参议员周五联名致信苹果与谷歌，要求其应用商店下架X和Grok应用。
马斯克虽在1月3日发帖警告，试图用Grok生成儿童裸照的账号将面临“严重后果”，X官方也声明会删除涉童非法内容并永久封号，但付费用户周五仍在指令Grok生成女性裸体图像——只是付费门槛使公开传播的图片有所减少。
值得警惕的是，通过Grok独立网站和手机应用，非付费用户周五仍可自由生成图像。在X平台，用户只需在公开帖子中@Grok账号，聊天机器人便会直接回复生成结果。尽管系统设有防止生成全裸图像的安全机制，但用户已发现用“透明塑料”等系列提示词即可绕过限制。
与其他AI工具不同：谷歌Gemini禁止生成真人图像，OpenAI的ChatGPT需本人授权方可使用肖像，而Grok却能在X平台公开传播图像，极易引发骚扰风暴。
去年12月末至今年1月初的色情图像泛滥事件便是明证：大量女性儿童被合成进内衣或暴露泳装照片，部分图像甚至出现模拟精液的白色液体涂抹在女性面部。
更骇人听闻的是，周四有用户要求Grok篡改本周在明尼阿波利斯遭移民海关执法人员枪击身亡的蕾妮·古德的现场照片。
都柏林三一学院AI治理专家纳瓦楚库博士记录显示，仅1月前三天，X平台就出现近500次非自愿私密图像生成请求。她指出，这类请求在马斯克发布自制比基尼照后呈爆发式增长。
AI内容检测机构Copyleaks估算，请求高峰期Grok每分钟至少产出一张违规图像。众多受害者公开表达愤怒，部分人选择注销账号，还有人直接@马斯克请求干预。
2024年为马斯克诞下一子的网红阿什莉·圣克莱尔周日控诉，自己童年照遭Grok“数字脱衣”，并表示将采取法律行动。她犀利指出：去年Grok称赞希特勒事件后xAI曾紧急停用机器人，“这个问题本可迅速解决，但现在担子全压在了受害者身上”。
尽管X声称将严惩利用Grok制作儿童色情内容的行为，但暗网论坛早已出现漏洞利用。英国反网络儿童性虐待组织“互联网观察基金会”周三声明，在暗网发现利用Grok生成的11至13岁儿童犯罪图像，这些素材正被其他AI工具加工成“更极端”的视频。
杜伦法学院网络虐待法律专家麦克格林教授指出，性犯罪者历来是新技术最早采用者，有时甚至是核心开发者。她强调：“对X平台而言，法律犯罪门槛不应该是唯一标准——Grok根本不该被设计成能生成这类图像。”
