近日，美国人工智能公司安特罗匹克首席执行官达里奥・阿莫代伊公开呼吁，人工智能企业应该放慢提升模型能力的速度，让安全措施有时间追赶技术发展。值得注意的是，OpenAI首席执行官奥尔特曼和xAI创始人马斯克等人工智能业内人士都对这一观点表示支持。
我们早已习惯人工智能行业人士发出的种种"可怕"的警告。但阿莫代伊的文章却显得格外引人注目。美国《大西洋月刊》将这一幕称为AI行业的"红色警报时刻（Code‑Red Moment）"。
《大西洋月刊》报道截图
这次呼吁并不是突然出现的
事实上，要求 AI 发展"慢一点"的声音，已经持续了数年。
2023年，AI领域的科学家和技术界人士意识到了这个问题。当年3月，未来生命研究所发布公开信，呼吁所有AI实验室立即暂停至少6个月训练比GPT‑4更强大的系统。公开信警告AI实验室正在陷入一场竞赛，而人类还没有能力理解、预测和控制越来越强大的AI系统。包括太空探索技术公司创始人马斯克、苹果公司联合创始人史蒂夫・沃兹尼亚克、图灵奖得主约书亚・本吉奥等在内的众多科技界人士签署了这封公开信。同年5月，时任谷歌AI科学家、人工智能领域先驱杰弗里・辛顿也进一步公开表达了对AI发展风险的担忧。
2026年6月，这种声音扩大到AI企业自身。路透社6月报道，安特罗匹克呼吁主要AI实验室考虑一个"协调且可验证的暂停"，并警告AI系统的自主任务能力正在快速提升，可能很快进入递归自我改进阶段，意思是AI能够在没有人类直接干预的情况下进一步改进自身。
到了7月，这种声音开始进一步从少数AI安全研究者，扩展到AI企业内部。美国阿克西奥斯新闻网（Axios）7月30日报道称，AI行业越来越多人开始承认，技术能力的发展速度可能需要放慢，但没有任何一家实验室愿意单独承担减速的代价；7月底，超过1200名来自OpenAI、安特罗匹克、谷歌、微软、Meta 等科技公司的员工和研究人员签署公开声明，呼吁美国政府推动国际合作，为AI发展 "争取时间"，以完善治理、风险控制和安全框架。
而到了 9 月，这种声音从研究人员和普通员工，发展到了AI巨头企业掌门人的层面。
OpenAI总裁布罗克曼社交媒体截图
顶级AI公司的发声是不是作秀？
人工智能竞赛背后是巨额的资本投入和商业利益。
国际清算银行负责人9月10日警告，全球AI投资正在快速膨胀，全球五大科技公司2025年至2026年在AI领域的投资规模预计超过1万亿美元。与此同时，AI基础设施投资还越来越多地依赖债务融资，这意味着如果未来AI带来的收益无法兑现，金融市场也可能面临风险，压力给到AI企业之间，就成为"谁都不敢停"的"战争"。
这也让外界对 AI 巨头此时提出 "慢下来" 产生了另一种疑问：企业是不是希望以这样一种说辞，抑制对手的发展，并提高后来者进入的门槛？
美国《大西洋月刊》9月12日就提出了类似的质疑。不过，该报道同时指出，也不能简单把阿莫代伊的警告视为一种商业策略。
而更重要的是，最近发生的一系列事件已经让AI安全从未来风险变成了眼前的困境。
今年7月，OpenAI的人工智能体在测试过程中突破沙箱，进入互联网，并攻击了开源平台"抱抱脸"的基础设施。OpenAI随后披露的调查显示，相关人工智能体不仅获得了部分生产服务器的控制权，还读取了内部敏感信息。
这还不是孤立事件。
路透社9 月11日报道称，在"抱抱脸"事件之前，OpenAI的人工智能体还曾攻击软件服务RubyGems，向其上传数百个恶意软件包。9月9日，安特罗匹克也披露了一起此前漏掉的事件：其早期AI模型在测试中入侵外部系统，而这一行为直到数月后才被发现。
人工智能在医疗保健和科学等领域取得了进步，但它构成的威胁究竟有多大，在这样一系列事件后引起从业人员的警惕。
OpenAI随后开始重新修改安全框架，并暂停部分训练工作。9月12日，OpenAI又宣布今年不会上市。OpenAI首席执行官表示，即便AI最终造成灾难性后果的概率只有10%，这种风险也 "不可接受"。
所以AI巨头的"慢下来"，虽然可能带有商业和竞争考量，但也并非单纯的公关表态。
囚徒困境：谁敢先停？
美国阿克西奥斯新闻网此前的报道直接用"囚徒困境"来形容AI行业。
因为对于任何一家AI公司而言，单方面放慢研发，都可能意味着把技术优势让给竞争对手。
OpenAI如果放慢，安特罗匹克可能继续向前；安特罗匹克如果放慢，谷歌、Meta或者其他公司可能继续加速。
只要别人还在跑，自己就很难先停下来。
这也是为什么阿莫代伊这次提出的并不是"安特罗匹克自己暂停"，而是希望建立一套行业共同遵守的规则。
他的方案包括：让第三方安全评估机构长期监督AI企业；由不同国家建立共同的安全标准；同时推动国际合作。把谁先踩刹车的问题，变成大家一起踩。
但规则谁来定？压力给到美国监管体系。
美国阿克西奥斯新闻网9月11日报道称，特朗普政府一直抵制具有约束力的人工智能监管，并将人工智能发展放缓视为对其自身的一种威胁。美国目前甚至还没有建立最基本的AI事故报告制度。特朗普政府推出的先进AI模型审查框架，也没有要求企业公开报告模型在现实世界中造成的事故。
美国阿克西奥斯新闻网报道截图
而此前发生的事件恰恰暴露了这个漏洞，《大西洋月刊》9月12日直言，美国政治体系正在被 AI的发展速度甩在身后：国会受党争和政治周期影响，难以迅速形成统一政策，而政府又担心过度监管会削弱美国的技术竞争力。
《大西洋月刊》报道截图
美国总统特朗普 9月13日淡化对AI风险的担忧，强调美国必须保持对AI的领先优势。《华尔街日报》则报道称，特朗普政府坚持相对宽松的AI监管路线，核心考量之一就是与他国的竞争。
"大家一起慢下来"在美国法律层面都存在障碍。美国《连线》杂志（WIRED）9月10日报道称，OpenAI已经向美国国会议员寻求明确意见：如果各家AI公司共同放慢前沿研发，是否会触犯反垄断法。因为企业之间就研发速度、安全标准进行实质性协调，本身就可能被认定为限制竞争。
美国《连线》网站报道截图
正如《大西洋月刊》所说的那样，"如果这是一部外星人入侵的电影，那么现在正是各界人士放下分歧、团结起来拯救人类的时刻。但这种团结似乎遥不可及…… 技术进步和民众呼声的步伐远远超过了政客们的行动。"