起初雷军以为只是互联网玩梗,后来越来越变味,甚至造谣式威胁,声称远程控制小米手机自爆、用小米su7撞人。
今年"受害者"雷军专门呼吁,"AI换脸拟声在网上已经成为了重灾区,我本人也是主要的受害者,呼吁尽快立法重点整治"。
国外的拟声AI外呼,更是放飞自我。
大选期间,有美国居民接到了拜登的自动语音电话,被告知不要在州初选时投票,实际上这段音频伪造的,目的就是要干扰选举。
最后被曝光发现克隆拜登的声音,只花了不到 20 分钟,以及1美元。
现在的机器人电话客服甚至为了和你拉关系,它自己也能说方言。在一起AI伪装老板事件中,AI就是讲出了带有德国腔的英文,才成功骗走22万欧元。
在效率碾压、以假乱真之下,这条产业链被越做越大。
治理骚扰电话反击战,
还得靠AI?
骚扰电话的苦,谁也不愿再吃。
如今注册账号越来越多,一旦平台发生数据泄露,我们的信息就会被黑灰产拿到手,再明码标价卖出去。
从骚扰升级到诈骗,从人工升级到AI--骚扰电话就如同厨房里永远杀不死的蟑螂。
在对方的骗术升级之下,甚至连有独立思考能力的精英也未能幸免。
2024年年底,在广东汕头就有人接到民航局"工作人员"的诈骗电话,以航班因故障为理由,哄骗按照操作提示退回改签费。
结果,在不用输密码的情况下,竟然给对方转账了20万,还好反应快被广东警方追回。