AI安全正在跨过一道关键门槛：它不再只是关于未来超级智能会不会失控的理论问题，而开始变成今天网络攻击、监控、欺诈、武器研发和生物安全中的现实变量。
Anthropic在9月10日发布的新一轮威胁情报报告，把过去八个月里发现并处置的AI滥用案例放在同一张图景中。
最值得警惕的不是某个单独事件，而是模型能力已经进入越来越多高风险领域，并开始从"提供建议"转向"参与执行"。
AI从工具变成行动链的一部分
过去人们谈AI风险，常把注意力放在AGI、意识和失控这些遥远命题上。
现实中的变化却更直接：模型正在降低复杂行动对专业知识、时间和人力的要求。
在网络攻击中，AI已经能够辅助侦察、编写脚本、分析漏洞、生成钓鱼内容，并在攻击链不同环节承担连续任务。
人仍负责选择目标和确认结果，但越来越多中间步骤可以交给模型或Agent完成。
这种变化改变的首先是成本结构。以往需要专业团队才能完成的行动，如今可能被更小规模的组织甚至个人部分复制，攻击能力因此出现某种"工业化扩散"。
同样的逻辑也出现在信息操纵和诈骗领域。生成式AI不仅能批量生产内容，还能创建虚构身份、维持长期对话、针对不同受众调整叙事。
社交媒体时代降低的是传播成本，而生成式AI进一步降低了制造内容、身份和互动关系的成本。真正的风险不是AI突然学会欺骗，而是欺骗第一次可以被持续、自动和低成本地放大。
