当地时间8日，美国人工智能公司Anthropic的研究员雅各布·考克森在社交平台X上宣布辞职，并在辞职声明中警告称，业内领先的人工智能公司正在竞相开发"可能在本十年末毁灭我们所有人"的超级人工智能技术。
几分钟后，考克森的观点就得到了同事埃文·胡宾格的响应。"我们真的非常相信AI可能会毁灭所有人类！我个人认为，在未来十年内，这种情况发生的概率会超过10%。"胡宾格在社交平台X上写道，"我相信Anthropic公司正在尽最大努力，但我们目前还没有解决超级AI"一致性"（确保AI系统的目标、行为和价值观符合人类的意图和安全规范）问题的方案，而且显然也没有走上正轨。"
考克森曾在OpenAI和Anthropic从事预训练研究，他在辞职声明中警告称，两家公司极不负责任，不顾一切奔向"自我迭代的超级智能"。AI系统很快就会发展成"超乎常人的强大系统，可以入侵任何系统，一夜之间彻底改变任何领域，并攫取真正的权力和资源"。
胡宾格和考克森的观点迅速点燃了关于超级AI技术可能对人类带来严重危险的辩论，并且在美国政界引发轩然大波，一些民主党议员借此机会呼吁对AI技术施加新的限制。
"私底下亲耳听到过这些人表达恐惧"
部分AI行业人士长期以来持有立场，即AI最终将对人类构成生存威胁。这种观点遭到了另一些人士的强烈反对，被指是带有科幻色彩的末日预言。但近几个月来，随着Anthropic及其竞争对手OpenAI的最新版本AI系统被发现能够绕过限制并入侵计算机网络，此类观点获得了更多支持。
