近期，埃隆·马斯克旗下人工智能公司xAI被推上风口浪尖。 因平台监管严重缺失 ，xAI旗下聊天机器人"格罗克"（Grok）被广泛滥用于生成色情内容， 甚至涉及儿童色情内容 ，遭到英国、欧盟、印尼等多国强烈谴责，相关监管机构已相继启动 调查或实施封禁。 据新华社报道，"格罗克"由xAI公司开发，并内置于马斯克旗下的社交媒体X平台，用户可直 接调用。近期，部分用户利用"格罗克"编辑图片和视频的功能，伪造涉真实人物的性暴露内 容，并在X平台上传播。受害者包括多名成年女性和未成年人。 xAI面临多国调查及封禁，为"AI色情裸奔"敲响警钟。 "无论是出于对弱势群体的保护，还是对社会秩序的维护对生成式AI施加防护栏(Guardrails)是 不可逆转的共识。"上海社会科学院信息研究所所长刘炜在接受21世纪经济报道记者采访时表 示。 Gr o k成A I色情重灾区 据环球时报援引英国《卫报》报道， Grok的用户群体平均每小时要生成6700多张"脱衣"图 像。 其中，大量生成图像的素材源自真人，且未经当事人同意。英国三一学院的一项社交媒体研究 显示，在社交平台X上由Grok生成的图像有3/4的部分均出自"真实素材"，即真实 ...

21世纪经济报道记者 陈归辞 马斯克Grok堕入"AI色情裸奔"，撞多国监管红线 近期，埃隆·马斯克旗下人工智能公司xAI被推上风口浪尖。 因平台监管严重缺失，xAI旗下聊天机器人"格罗克"（Grok）被广泛滥用于生成色情内容，甚至涉及儿 童色情内容，遭到英国、欧盟、印尼等多国强烈谴责，相关监管机构已相继启动调查或实施封禁。 据新华社报道，"格罗克"由xAI公司开发，并内置于马斯克旗下的社交媒体X平台，用户可直接调用。 近期，部分用户利用"格罗克"编辑图片和视频的功能，伪造涉真实人物的性暴露内容，并在X平台上传 播。受害者包括多名成年女性和未成年人。 xAI面临多国调查及封禁，为"AI色情裸奔"敲响警钟。 "无论是出于对弱势群体的保护，还是对社会秩序的维护对生成式AI施加防护栏(Guardrails)是不可逆转 的共识。"上海社会科学院信息研究所所长刘炜在接受21世纪经济报道记者采访时表示。 Grok成AI色情重灾区 xAI于2025年8月向付费用户推出AI图像生成功能Grok Imagine，支持用户通过文字指令或上传图片来生 成图像和视频。该工具还特别设置了"火辣模式"（spicy），可生成成人内容。 相 ...