高风险边界已经进入现实世界
更危险的变化发生在网络空间之外。
Anthropic披露的案例涉及导弹制导软件、无人机集群、电子战目标系统、武器采购情报以及生物研究，说明模型已经开始进入传统上需要稀缺专家参与的领域。
这并不意味着AI已经能够独立制造复杂武器或完成高等级生物工程，也不能把平台发现的尝试等同于现实中的成功部署。真正重要的是，模型正在缩短从"想法"到"可执行方案"的距离。
Anthropic同期公布的评估显示，在部分战术情报和常规武器任务上，前沿模型已经能够完成过去通常依赖受训专家的部分工作。能力虽然仍有限，但门槛下降本身就足以改变安全环境。
因此，AI风险讨论正在从"模型有没有意识"转向"模型能否显著增强人的行动能力"。一个系统即使没有自主意识，只要能够快速生成代码、分析数据、规划任务并调用工具，也可能产生真实的战略影响。
所谓"原子弹时刻"并不是说AI已经等同于核武器，而是技术能力正在进入国家安全、战争和大规模社会风险领域，治理因此被迫提前到技术扩散之前。
"技术中立"正在失去解释力
传统技术中立论认为，工具本身没有善恶，责任属于使用者。但大模型和Agent越来越难被视为纯粹被动的工具，因为它们必须不断判断什么可以回答、什么应该拒绝。
一旦模型能够调用外部工具、执行代码、访问数据库或协调多个Agent，开发者就不得不预先设定权限、限制和拒绝规则。
安全设计由此不再是产品外围功能，而成为模型能力本身的一部分。
这也带来新的权力结构。前沿AI公司既是能力提供者，也是风险观察者和规则制定者；它们可以识别异常使用、封禁账号、调整分类器，还能把威胁情报交给政府和产业伙伴。
问题在于，私人公司由此获得了过去只有平台、情报机构或监管部门才可能拥有的可见性。谁来监督这些判断、哪些证据可以被公开、不同国家如何接受同一套规则，都将成为新的治理争议。
围绕模型蒸馏的争论就是典型案例。蒸馏本身是常见技术，但当它涉及未经授权的大规模调用、用户数据、商业竞争和国家安全时，技术行为很快转化为权利、合规与地缘政治问题。
