新年里，印尼政府成为全球首个对马斯克的AI实施禁令的国家，原因直指Grok被滥用于生成非自愿性的深度做假成人影像，包括涉及真实女性、未成年人和x侵犯内容的图片。
事件导火索是用户在X平台（xAI与X同属一家）上通过Grok生成大量此类图像，引发全球争议。印尼通讯与数字部长在声明中强调，非自愿性深度做假"严重侵犯人权、尊严和公民数字空间安全"。政府已召见X官员讨论，并要求平台加强内容过滤和伦理标准。
xAI回应迅速：先在Grok账户发第一人称道歉，承认部分输出违反伦理并可能触犯儿童x虐待材料法；随后将X平台上的图像生成功能限制为付费订阅用户（不过Grok独立应用仍不受此限）。Elon Musk也在X上表示，制造非法内容者将承担相应后果。
这一禁令凸显AI生成内容监管的全球紧迫性。过去一周，印度IT部已要求xAI禁止生成淫秽内容，欧盟、英国、法国等多地也展开调查或警告。印尼作为世界最大穆斯林国家，对网络淫秽内容一向零容忍，此举或成其他国家跟进的先例。
