- A+
前沿AI继续加速，还是踩刹车，成为硅谷时下最具争议的话题。围绕这一争议，硅谷巨头们开始站队——但到目前为止，这场争论还没有真正改变前沿AI公司的发展节奏。
01. 争论起点：一封辞职信与两声“枪响”
这场争论的导火索，是一名Anthropic研究员雅各布·考克森的辞职。
他此前在OpenAI和Anthropic做了三年预训练研究，亲身参与了最前沿模型的训练。在X上的长文中，他几乎没有客套：
“两家公司都没有负责任地行事。它们正径直冲向可自我改进的超级智能，拿我们的生命下注。”
他直言，实验室内部的人真正相信AI可能在十年内杀死所有人类，而这绝不是公关表演。考克森甚至放弃了即将归属的股权——他在Anthropic只待了四个月，按公司规定六个月才能行权。
紧接着，Anthropic负责对齐科学的埃文·休宾格公开回应：
“雅各布是对的，我们真的认真相信AI可能杀死所有人类。我个人认为，十年内这个概率超过10%。Anthropic在尽力，但我们还没有解决超级智能对齐的清晰计划，也远未走上正轨。”
这两声“枪响”，把原本主要在实验室内部发酵的担忧，直接推到了公众面前。
02. 阿莫迪的“放缓”主张与三步走方案
在这一背景下，Anthropic创始人兼CEO阿莫迪随即发表长文，系统提出“放缓前沿研究”的主张。
他不再只谈“多投安全”，而是明确要求主动控制能力跃升的速度，给安全机制留出追赶时间。
三步走方案
| 步骤 | 内容 |
|---|---|
| 第一步 | 先由Anthropic单方面引入拥有员工级权限的独立评估者 |
| 第二步 | 推动民主国家AI公司建立共同安全标准和能力增长上限 |
| 第三步 | 最终尝试全球协调 |
奥特曼、马斯克、哈萨比斯很快公开呼应，形成了 “暂停派”。
03. “AI教父”们的声音：呼吁关注风险，而非直接踩刹车
在考克森、阿莫迪的“减速”论出现之前，约书亚·本吉奥、杰弗里·辛顿这些“AI教父”们，一直在发出关注风险的倡议。
本吉奥的观点
谈及考克森的辞职，本吉奥表示：
前沿AI实验室的科学家往往能够比公众更早看到最新模型的能力，因此他们对风险的判断值得认真对待。
他还具象化地举例，称当前AI系统已经具备黑客攻击和说服能力，如果被用于损害人类利益，可能造成严重后果。他还担心，随着AI具备更长时间跨度的规划能力，这类风险可能进一步扩大。
辛顿的观点
在被BBC问及AI在未来十年内“杀死所有人类”的概率超过10%时，杰弗里·辛顿表示，这一数字“并非不合理”，但同时强调：
没有人真正知道如何给出一个可靠的估计，因为人类此前从未面对过“可能很快比我们更聪明的物种存在”。
辛顿认为，AI未来可能被用于设计危险的生物病毒、计算机病毒以及发动大规模网络攻击。因此，人类需要在风险失控之前找到有效的控制方法。
与硅谷新一轮“暂停论”的倡议者们不同，“AI教父”们更多的是呼吁关注风险，并探索建立控制风险的机制，而非直接踩刹车。
而且，从立场上来说，学术领域的意见和建议，更加单纯；而前沿实验室的倡议，即便明面上挂着“为了人类”的标签，仍然难以100%脱离商业考量。
04. 华盛顿的声音：“暂停论”像特洛伊木马
在华盛顿，“暂停”的呼声不仅没有得到支持，甚至引发一系列质疑。
JD·万斯在接受采访时说：
“这有点特洛伊木马的味道（It feels a little bit to me like a bit of a Trojan horse）。”
这句话其实反映了华盛顿的真实看法——制造木马的企业一再要求把门变得更窄的时候，就应该审视一下这道门究竟适合哪些企业。
在特朗普直接致电黄仁勋，公开表达了对AI产业继续发展的支持之后，美国总统科学技术顾问委员会联席主席戴维·萨克斯随后表示：
科技公司可以继续推进前沿AI，同时质疑部分企业提出“减速”主张背后的动机。
05. 硅谷的分歧与站队
9月15日，多位科技公司掌舵者在Salesforce Dreamforce大会上接连发声，这场争论开始变成一场更加直接的观点交锋。
三方阵营
| 阵营 | 代表人物 | 核心主张 |
|---|---|---|
| 暂停派 | 阿莫迪、奥特曼、马斯克、哈萨比斯 | 呼吁放缓前沿研究 |
| 加速派 | 黄仁勋 | 批判“AI末日论”缺乏科学根据 |
| 中间派 | 扎克伯格、纳德拉 | 强调安全与竞争并行 |
各方最新表态
阿莫迪：与Salesforce CEO马克·贝尼奥夫同台时，再次强调AI企业应该通过自身行动树立更高的安全标准。他的态度开始转变，从呼吁全行业减速，转向企业自主加装安全护栏。
黄仁勋：表示“不需要新的法律，也不需要新的监管”。在他看来，速度和安全并不是非此即彼的关系，企业可以尽可能快地推进模型开发；如果发现失去控制，或者产品无法确保安全，就应该暂停下来解决问题。
奥特曼：在Dreamforce现场表示，非常有信心OpenAI乃至整个AI行业能够在不对公众造成重大伤害的情况下安全发展。他同时表示，对于外界将自己的观点理解为支持整个行业放慢AI发展速度，他感到失望。他强调，自己想表达的并非呼吁行业减速，而是安全和监控工作应该先于能力提升。
扎克伯格：不主张把一家公司的安全行动，建立在其他AI公司必须同步放慢的前提上。他认为引入独立评估机构和外部顾问来检验模型安全性是行业最佳实践。他还透露，Meta此前已经自行放慢了Muse AI工具的开发，而不是等待其他公司先就放慢AI发展达成共识。
纳德拉：态度某种程度上和奥特曼一致，鼓励加装护栏，也鼓励充分的竞争。
“我们首先要做的是服务人类、并确保技术处于人类控制之下。与此同时，AI技术的广泛扩散才是最关键的，必须有选择、有竞争。安全要认真对待，但要用工程和透明的方式去解决，而不是把它神秘化。”
杨立昆的持续嘲讽
杨立昆则持续嘲讽阿莫迪：
“（阿莫迪）当年还在OpenAI时，就认为GPT-2危险到不该开源，我当时就嘲笑过他，现在大家可以继续。”
06. 谁来制定规则？安全标准机构之争
随着讨论扩大，争议也从AI风险本身，进一步延伸到：前沿AI的安全标准究竟应该由企业自行制定，还是需要政府和独立机构介入？
行业标准机构的讨论
彭博社援引知情人士的消息，称Anthropic、谷歌和OpenAI此前已经讨论过建立一个人工智能行业标准机构。
哈萨比斯的设想
7月份，哈萨比斯发表过一篇文章，提出成立一个由美国主导的AI标准机构，运作模式类似美国金融业监管局（FINRA）。
| 设想要素 | 内容 |
|---|---|
| 机构职能 | 在先进AI模型正式部署之前进行测试，判断其是否达到相应的安全标准 |
| 主导模式 | 不应完全由政府主导，而应采取公私合作模式 |
| 政府角色 | 监督 |
| 资金来源 | AI行业提供 |
| 参与方 | 独立的顶尖技术专家以及开源社区代表 |
美国政府现行监管逻辑
哈萨比斯的设想比较贴合美国政府6月初公布的一套监管逻辑：
| 要素 | 内容 |
|---|---|
| 企业参与 | 可自愿在模型公开发布前，交给政府评估 |
| 访问窗口 | 最长可提供发布前30天访问窗口 |
| 明确不搞 | 强制审批、发布许可 |
比较戏剧的是后续Fable 5和Mythos 5上线，未遵照这套流程，但被发现具备极强的网络攻防能力，最终被美国BIS以出口管制的形式短暂下线。
不过，即便如此，政策的态度也只是要求加装安全护栏，未做出减速的表态和指导。
OpenAI首席科学家雅库布·帕乔基在9月初也强调，共享安全标准，围绕AI进一步发展进行国际协调，应当成为当前的优先事项。
07. 现实结论：没有人真正踩下刹车
到目前为止，这场争论还没有真正改变前沿AI公司的发展节奏。
研发节奏未变
Anthropic、OpenAI、Google、xAI等公司仍在继续推进模型研发，围绕算力、数据中心和AI基础设施的竞争也没有因为这场争论而停止。
资本市场层面的变化
| 公司 | IPO计划 |
|---|---|
| Anthropic | 仍在筹备今年的IPO |
| OpenAI | 将IPO计划推迟至2027年 |
为何难以形成共识
关于“慷他人之慨”的观点：
阿莫迪想拉着整个行业停下来，陪着Anthropic一起寻找为模型能力越界加装护栏的解决方案，一定程度上可以理解为“慷他人之慨”。这也是为什么阿莫迪会被贴上“假装成完美无瑕的小天使”标签的原因。
黄仁勋观点的现实性：
如果企业有担忧，或者发现问题，完全可以自行探索解决方案，并且将探索出的行之有效的方案与行业共享。
共识基础不足：
让一个100人的团队，和一个1000人的团队，一起停下来，根本不具备共识的基础。甚至连阿莫迪自己都很清楚，如果只有自己停下来了，很有可能就会被OpenAI等竞争对手超过。
公司治理层面的分歧：
| 公司类型 | 治理逻辑 |
|---|---|
| 公益利益公司（Anthropic、OpenAI） | 可以喊着“为了人类未来而放弃短期财务利益” |
| 上市公司（谷歌、微软、Meta） | 管理层对二级市场股东负有法定信义义务 |
两种不同利益的公司在这一点上，达成共识的可能性也不会太大。
结语
还有一个可能被忽视掉的细节：在“暂停论”之前，Anthropic和OpenAI都先后发了最强模型——一个是Fable 5.1，另一个是GPT-6 Astra。
一众呼吁之下，其他家的新模型还发不发呢？
