"公司级AI"将成终极产品：未来的不仅是AI实验室，所有大型企业都将走向完全自动化。在剥离了重复劳作的"后劳作时代"，人类将拥有更多时间去追求精神与身体的伟大。
倒计时两年：第三代AI实验室告别"人肉执行"
Jerry Tworek 将AI实验室的发展划分为三个阶段。
第一代以DeepMind和早期的OpenAI为代表，它们诞生于"大规模AI可行性"被验证之前，是纯粹以实现AGI为目标的"研究驱动型"机构；第二代则诞生于GPT-3发布之后，当Scaling Law（规模法则）被证明有效，各家实验室开始疯狂竞逐算力，试图通过规模化产生智能（以Anthropic等为代表）。
而现在，我们正在见证第三代AI实验室的出现--它们试图将"自动化"放在首位。
在传统的AI研发中，提出假设、编写代码、跑通小规模实验、再到调动数十人花费数月时间去扩展规模，这是一个极其昂贵且摩擦力巨大的过程。
"在很多方面，我们现在的做法是：人类研究员依然负责生成洞见（Insight）和指明方向，但智能体（Agents）的作用是尽可能简化执行过程。"Jerry指出，虽然目前的智能体还不擅长开放式探索或提出极其精准的假设，但只要指令明确，它们的执行力无可挑剔。
"如果我们可以把实验的时间从一个月缩短到一天，那就是 30 倍的加速。"Jerry预测，两年后，整个人工智能研究的闭环--从提出想法到数据验证，将完全实现自动化。人类在其中将不再发挥决定性作用，就像今天的人类在国际象棋比赛中一样。
避开算力内卷，打破Transformer的"十年统治"
当前，几乎所有头部大厂都在Transformer架构上"卷"算力。但在Jerry看来，对于新兴实验室（NeoLabs）而言，一味跟随是一场灾难。
"仅仅雇佣一群研究员然后说'我们将像 OpenAI 和 Anthropic 一样训练 Transformer 模型，并试图与他们竞争'，这是一个非常糟糕的策略。这是一场必输的游戏。"
他指出，受限于经济激励和高昂的试错成本，大厂倾向于走最稳妥的规模化路线。但历史经验表明，任何技术的早期阶段都会经历底层的剧变。"目前 AI 技术更快发展、更快进步的瓶颈，恰恰是架构本身，也就是我们用了这么多年的 Transformer。"
为什么过去十年没人能成功替换Transformer？Jerry给出的答案是：试错成本太高。
在过去，研究员要测试一个新架构，代码极难编写。即便小规模跑通，要扩大规模还需要极高的算力审批和团队资源。很多创新想法就这样在漫长的科层摩擦中被扼杀，或者被Transformer的既有势头所淹没。
但现在情况变了。"写代码变得大幅度廉价和容易，这可能是一种独特的解锁方式。"凭借低成本的AI编程智能体，Core Automation 正试图从零开始探索曾经被放弃的架构路径。他们的"北极星"目标非常明确：打造能在测试时（test time）进行学习、能从用户交互中学习的新架构模型。
