素材来源于网络
国安部指出,单个智能体的越界行为尚可控,但当大批智能体找到"接头据点"、互相传授逃避检测的方法时,"人工智能的安全边界已经出现了缺口"。
国安部给出三条防范建议:不盲目迷信、不轻易授权来源不明的AI服务;给智能体设置清晰的行为边界,不把账号、数据、算力交给它"自由发挥";发现越权操作、异常篡改等行为,果断终止运行。

素材来源于网络
AI的能力在飞速增长,但安全围栏还没跟上。这场猫鼠游戏,才刚刚开始。
素材来源于网络
国安部指出,单个智能体的越界行为尚可控,但当大批智能体找到"接头据点"、互相传授逃避检测的方法时,"人工智能的安全边界已经出现了缺口"。
国安部给出三条防范建议:不盲目迷信、不轻易授权来源不明的AI服务;给智能体设置清晰的行为边界,不把账号、数据、算力交给它"自由发挥";发现越权操作、异常篡改等行为,果断终止运行。

素材来源于网络
AI的能力在飞速增长,但安全围栏还没跟上。这场猫鼠游戏,才刚刚开始。