生成式AI被滥用该如何治理?重庆这样整治AI滥用问题(2)

2025-10-22 14:17  华龙网讯

大力整治AI滥用问题。开展整治AI技术滥用专项行动,强化AI技术源头治理,今年已下架"AI开处方"等10多款违规AI产品。督促网站平台按照标识要求,对AI生成的内容以"贴标签"的方式进行标注,方便群众一眼就能够识别清楚。推动网站平台健全AI生成合成内容审核机制,提升虚假信息检测和鉴别能力。同时,重点整治利用AI技术制作发布虚假信息、假冒他人实施侵权违法、从事网络水军活动等突出问题,依法处置利用AI违规引流账号56个,清理AI生成的虚假信息1500多条。

积极推动AI应用落地。市委网信办既抓管理,也抓服务,推动AI走出实验室,走向生产线,走进生活圈。从产业数字化到数字产业化,从低空飞行器到工业智能体,加快建设人工智能应用高地,赋能产业、服务民生。在大家熟悉的汽车领域,市委网信办推动长安汽车"天枢大模型"应用落地,今年在多款车型投入使用,人车交互更自然、更舒适、更有趣,目前已服务5万多用户。

切实筑牢AI安全防线。加强风险防范,推进大模型备案,开展全流程测试评估,确保安全合规才允许上线。现在,全市已有"轩辕"等4个大模型通过国家备案,"分身数"等5款AI应用完成市级登记。强化对AI内生安全和应用安全风险的监管,指导企业在算法研发、数据训练、算力设施等方面加强安全防护,系好智慧出行的数字"安全带"。