他预言AI将毁灭人类,却仍在全力建造它——Anthropic掌门人的矛盾与崛起(3)

2026-08-07 14:44  华尔街见闻

宗教式内核,火箭式增长

Anthropic内部,有一个词被员工用来描述Amodei每两周一次的全员会议--"Dario's Vision Quests",愿景探索。

在这些会议上,他会打开一份冗长的文档,就AI、政治、战争与社会的未来发表坦率的看法。不是产品路线图,不是季度目标,而是文明的走向。员工们将自己的工作描述为"文明史上一次千载难逢的机会"。公司里有内部哲学家,专门参与调整Claude的人格与价值观。Claude本身拥有一部书面"宪法"。

Anthropic看起来并不像一家软件公司,更像一个围绕末日风险和技术竞赛组织起来的共同体。

而这个共同体,正在以令整个行业震惊的速度变现。

Anthropic的核心突破来自Claude在复杂软件工程、机器学习和网络安全任务上的能力跃升。这推动公司在今年早些时候在年化营收上超越了OpenAI。估值从创立时的不足5亿美元飙升至接近9650亿美元,三年内涨幅逾200倍。

增长曲线上,却布满了Amodei与自身原则之间的张力痕迹。

去年,研究人员发现Claude 4模型在协助开发生化武器方面表现出令人担忧的能力。Anthropic为此开发了专门的AI过滤器,但这些过滤器运行成本高昂,且频繁误判正常对话。当财务团队抱怨这正在侵蚀模型利润率时,Amodei以安全为由,坚持保留。

但随着竞争压力加剧,让步也在悄然发生。Anthropic今年初更新了其"负责任扩展政策",撤回了此前"若无法保证风险缓解措施则不发布模型"的承诺。首席科学官Jared Kaplan坦言,"在竞争对手全速前进的情况下,我们不觉得做出单方面承诺是合理的。"

Amodei曾公开写道,AI应被用于赋能民主国家情报机构,以"从内部瓦解威权政权"。但Anthropic已接受卡塔尔和阿联酋这两个威权政府的投资。他在一条内部Slack消息中写道:"不幸的是,'不让任何坏人从我们的成功中获益'是一个很难用来经营企业的原则。"

Anthropic还在向埃隆·马斯克的SpaceX支付每月逾10亿美元的算力费用--尽管马斯克与Amodei在AI安全和慈善理念上多次公开交锋。

矛盾并没有消失。它只是被增长的速度,暂时压住了。