最近发生一件让人担心的事，有人用AI技术模仿央视主持人李梓萌的形象，在直播间里推销鱼油产品，背景布置得像新闻演播室，她穿着西装，说话语气也学得很像，很多人以为是真实的节目推荐，就下单购买了，结果发现所谓保健品只是普通糖果，连正规备案都没有，有人吃了没效果，还有人因此停药导致身体变差，最后被送进医院治疗。
这件事不是偶然发生的，背后有一个黑产团伙在专门做这个，他们从网上找来李梓萌的视频，用AI模型合成她的形象和声音，画面很流畅，帧率达到30，普通人根本看不出是假的，他们还加上央视风格的字幕和专业用语，让人觉得很可信，买一个这样的模型，最便宜的只要三千块，贵的要五万，有人花了七千块买了模型，再投了一百万广告费，一周就赚了一千二百万，退货率虽然高，但照样能赚钱。
不止李梓萌被人盯上，演员温峥嵘也被AI克隆了，同时出现在三个直播间里卖不同的东西，奥运冠军全红婵的声音被拿去卖土鸡蛋，这些数字人模型在暗网上流通，一个明星能做成好几个账号，跨平台使用，一套模板反复套用，操作起来就像流水线，成本低，效率高，风险小。
这么多人会被骗，是因为大家特别信任央视主持人，李梓萌每年播出新闻上百次，观众觉得她不会说谎，也不会去带货，这种信任被骗子拿来利用，他们其实不是在卖东西，而是在贩卖"权威感"，你看到的是李梓萌的样子，听到的是她的声音，但内容都是假的，这件事不只是诈骗那么简单，而是把大家对公众人物的信任当成了工具来收割利益。
监管这边总是跟不上节奏，网信办清除了上万个假账号，市场监管局对涉案公司罚了二十万，可这点钱对骗子来说根本不算什么，模型能够无限复制，账号删掉后立刻就能重新注册，消费者想要维权的话，得自己去证明视频是AI制作的，还得找到专业工具和律师帮忙，普通人根本没有这份精力和能力。
技术发展得太快，法律和平台都跟不上节奏，平台算法无法识别出那些模仿央视风格的虚假内容，处理方式依然停留在靠人举报、再下架罚款的老路子，法律也没有明确规定用AI冒充真人该判多少年，现在技术已经可以逼真模仿真实人物，可制度还停在原地打转，整个信任体系就这样被慢慢侵蚀。
我确实很担心这件事，如果连央视主持人都不能相信，那以后还能相信谁呢，政策宣传、疫情通报、突发事件通知，这些重要信息要是被AI技术搅乱，后果真的很难想象，这不是某个明星的私事，也不是个别消费者的损失，而是整个社会信任基础在慢慢垮掉，大家现在可能还没完全意识到问题的严重性，等到真正出了大事再想补救，恐怕就来不及了。
