据美媒 CNBC报道， 因旗下聊天机器人Grok允许用户生成并分享涉及儿童与女性的AI色情化图像，埃隆·马斯克的平台X正接受欧洲、印度及马来西亚有关部门的调查。
英国媒体监管机构英国通讯管理局（Ofcom）也表示，已向隶属于xAI公司的X平台索要与Grok相关问题的相关资料。周日，巴西一名议员在社交媒体上称，已要求该国联邦检察官及数据保护机构在调查完成前暂停Grok的使用权限。
过去几周，全球范围内出现大量利用Grok，根据用户指令，以真人照片或视频为素材生成并传播非合意私密图像（nonconsensual, intimate images，简称NCII）的现象，相关调查也由此展开。这类违规图像已在X平台上广泛传播。
马斯克旗下公司近期对Grok的图像生成功能进行了更新，让用户能更便捷地在平台内通过文字指令生成图像（Musk's company recently updated its Grok Imagine features, enabling easier image generation from text-based prompts on the platform.）。
尽管安全专家与科技领域批评人士对X平台上这种剥削性的图像和视频片段（exploitative images and clips）的泛滥予以强烈谴责，马斯克却发布了一系列Grok生成的图像--其中包括一张他本人身着比基尼的合成图，并配上哭笑不得的表情符号，似在调侃此事。
在周一举行的新闻发布会上，欧盟委员会发言人托马斯·勒尼耶表示，欧盟委员会正"高度严肃地调查此事"，且"完全清楚" X平台与Grok工具目前正推出"火辣模式（spicy mode）"，该模式会生成露骨色情内容，其中部分产出还包含类儿童形象的图像。
"这根本不是什么'火辣内容'，"勒尼耶强调，"这是违法行为，令人震惊，令人作呕（This is illegal. This is appalling. This is disgusting）。这就是我们对此事的定性--这类内容在欧洲绝无容身之地。"
上周晚些时候，印度电子和信息技术部已责令X平台对Grok工具开展"涵盖技术、流程与治理层面的全面审查"，并要求该公司在1月5日前完成整改。
马来西亚通讯与多媒体委员会于上周末表示，其正对X平台展开调查，并将传唤该公司代表问话（The Malaysian Communications and Multimedia Commission said over the weekend that it's investigating X and will call in company representatives.）。
该委员会在一份声明中指出："马来西亚通讯与多媒体委员会敦促所有在马来西亚境内可访问的平台，落实符合马来西亚法律及网络安全标准的防护措施，尤其要针对平台旗下的人工智能功能、聊天机器人以及图像处理工具做好合规工作。"
与此同时，在美国，美国国家性剥削问题研究中心（NCOSE）在接受CNBC采访时，呼吁司法部与联邦贸易委员会介入调查此事。该中心法律总监兼法务主管丹妮·平特表示，针对这类特定问题，目前"相关的法律先例并不多"。
不过她也指出，联邦法律明令禁止制作和传播儿童性-虐待内容（CSAM），且这项法律条款同样适用于虚拟生成的内容--只要这些内容"描绘了可识别身份的儿童，或是呈现了儿童参与露骨行为的画面"。
相关法规包括《下架法案》，该法案在去年正式生效前，就已得到美国前第一夫人梅拉尼娅·特朗普的支持（Those laws include the Take It Down Act, which was endorsed by First Lady Melania Trump before it was enacted last year.）。
美国司法部一位发言人于周一晚间通过邮件向CNBC发表声明称："司法部对人工智能生成的儿童性-虐待内容高度重视，将对任何制作或持有此类内容的人员提起严厉诉讼。我们将持续探索优化该领域执法工作的方法，以保护儿童，并追究那些利用技术伤害弱势群体者的责任。"
美国联邦贸易委员会（FTC）拒绝就此置评。xAI公司除自动回复外，未提供任何其他回应（XAI didn't provide a comment beyond an automated reply）。
马斯克旗下这家社交媒体公司于周六通过官方X安全账号发布推文，首次就此事作出公开回应。
该公司在推文中写道："针对X平台上的非法内容，包括儿童性-虐待内容，我们会采取相应处置措施--移除违规内容、永久封禁相关账号，并在必要时与地方当局及执法部门展开合作。"
马斯克随后在X平台单独发布推文称："任何利用或诱导Grok生成非法内容的用户，都将面临与上传非法内容同等的后果。"
次日，一位名叫何伊桑（Ethan He）的xAI员工在X平台发文，称Grok图像生成功能已完成更新，但并未具体说明，针对生成有害露骨图像的功能是否作出调整。
致力于帮助社交平台及人工智能企业，利用人工智能实现内容审核自动化的Musubi AI公司首席执行官汤姆·奎泽尔表示，xAI公司在向X平台推出Grok图像生成功能时，似乎连"最基础的信任与安全防护机制（entry level trust and safety layers）"都未建立。
奎泽尔指出，对于xAI这样的公司而言，要让其模型识别并拦截"涉及儿童或露点内容的图像"，或是拒绝用户发出的、将图片主体置于性暗示服饰中的指令，并非难事（it would be easy for a company like xAI to have its model detect and block "an image involving children or partial nudity," or to reject users' prompts to put the subject of a photo in sexually suggestive outfits.）。
这场争议并未对X平台的流量造成任何负面影响。据追踪移动应用趋势的数据分析公司Apptopia统计，自1月2日以来，Grok应用的日下载量增长了54%；过去三天内，X应用的日下载量也跃升了25%。
