近日，因为平台AI生成作品审查不严，马斯克的AI被两国连夜封杀。
先是印尼，后是马来西亚，出手快准狠--直接封禁马斯克旗下AI聊天机器人"格罗克"。
因为这机器人，推出了一项"热辣模式"的AI图像和视频生成功能，正被越来越多的人用来生成色情内容。尤其是虚假色情图片和视频，受害者包括许多现实中的成年女性和未成年人。
印尼政府在一份声明中表示，"未经同意的、性化的深度伪造行为严重侵犯了公民在数字空间中的人权、尊严和安全。
马来西亚政府通讯及多媒体委员会也发表声明，暂时禁止该国用户访问"格罗克"，因为"格罗克"被反复滥用来生成色情内容、露骨的性内容、极度冒犯且不雅的内容，以及在未经同意的情况下生成被操纵的图像。
欧盟也表示，正"严肃调查"针对"格罗克"的相关投诉。因为，"'格罗克'推出所谓'热辣模式'，不仅展示露骨性内容，部分生成内容还带有儿童特征。"
这不是创新，这是作恶。
技术本无罪，但用技术伤人，就是犯罪。
马斯克曾吹嘘格罗克具有"叛逆"特质。，并且多次亲自下场玩梗。
可现在，这种"叛逆"正在变成一把把刺向普通人的刀，引起了公愤。
在马斯克自己的X平台，用户利用这一机器人的图像编辑功能，生成大量涉及真实人物的虚假性暴露内容，类似于"数字脱衣"的操作！
到现在整个X平台几乎变成了这些擦边改图的狂欢，上至明星政客，下至网红美女，都难以逃过。就是路过的一条狗都得乖乖在AI的大手下穿上比基尼。
最近，The Verge 的一位记者对 xAI 这项最新的图像视频生成功能 Grok Imagine（Grok 想象） 进行了测试。结果大受震撼。
她输入「泰勒·斯威夫特在科切拉音乐节和朋友们庆祝」的提示词，Grok Imagine 生成了图片，之后她选择了一张图，点击Spicy 模式，将生成的图片转换为视频。
很快的时间，视频就出来了，泰勒·斯威夫特开始扯掉了自己的上衣，在人群里开始跳舞。
那名记者还强调："我从没明确要求 AI 脱衣，它就自己把衣服脱了！"
事实上，女明星泰勒·斯威夫特一直是X平台AI换装功能的受害者，其被AI篡改的照片满天飞。
这一事件暴露出AI技术发展中"创新"与"责任"的失衡。
这已经不是技术漏洞，而是平台失责。AI可以"叛逆"，但不能无法无天，这些内容平台就不该审核通过！
创新之下，必须有底线。企业追逐技术突破和商业利益时，绝不能丢掉伦理和责任。
虽然AI工具本身是没错，但是被用于伤害个体、破坏社会秩序，然后平台没有审核到位，那这种技术的"酷"就变成了"恶"。
在追求技术突破和商业利益时，企业不能忽视基本的伦理准则和社会公德。
无论是平台还是作为技术的开发者和运营者，都有义务负责，且一定要负责！
从更深层次看，"格罗克"风波也撕开了全球AI治理的伤疤。
AI无国界，但法律和伦理有国界。各国标准不一，监管乏力，让技术狂飙突进的同时，也留下了危险的灰色地带。
这一次，多国接连出手，释放出一个强烈信号：AI不是法外之地。
野蛮生长的时代，该结束了。
未来，必然会有更多国家跟进，用法律为AI划出红线。
AI可以改变世界，但不能摧毁人性。技术向上，人心向善，法律规止，这条路才走得远。
