2026年2月19日，在印度新德里举行的人工智能影响力峰会期间，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）与法国总统埃马纽埃尔·马克龙会晤后现身。（图片来源：Ludovic MARIN / AFP via Getty Images）
【看中国2026年9月13日讯】（看中国记者路克编译/综合）路透社9月12日报道，人工智能公司Anthropic首席执行官达里奥・阿莫代伊（Dario Amodei）呼吁全球领先AI企业放慢提升模型能力的速度，警告随着人工智能自主行动、网络攻击乃至自我改进能力迅速增强，人类用于建立安全防线的时间正在缩短。
阿莫代伊在当天发表的一篇长文中提出三步方案，包括在领先AI公司内部引入独立安全评估人员、推动前沿AI企业协调制定安全标准，以及寻求国际合作控制先进人工智能带来的风险。
他的表态获得两名主要竞争对手罕见响应。OpenAI首席执行官萨姆・奥尔特曼（Sam Altman）和xAI负责人埃隆・马斯克（Elon Musk）均表示赞同。
AI能力狂奔 阿莫代伊呼吁主动“降速”
阿莫代伊称，现在需要放慢的不是整个AI技术进步，而是模型能力不断升级的速度。
“我们必须放慢提高AI模型能力的速度。”他表示，即使如此，AI进步在人们看来仍然会非常快，因此企业和政府必须充分利用争取到的时间，解决模型对齐、安全评估和监管等问题。
按照他的设想，首先应允许独立评估人员长期进入领先AI实验室，并获得接近内部员工级别的模型和风险评估权限，而不是等到模型公开之后才进行有限测试。
奥尔特曼随后表示，OpenAI也愿意接受拥有“类似员工访问权限”的独立评估人员。
第二步则是让Anthropic、OpenAI、xAI等前沿模型开发者共同制定最低安全标准，在模型能力明显超过现有控制水平时协调放慢研发速度。
不过，这种合作本身可能面临反垄断法律障碍。阿莫代伊因此认为，美国政府可能需要提供有针对性的反垄断豁免，让企业能够在安全领域进行协调，而不必担心因此承担法律风险。
Anthropic曝真实案例 AI已被用于武器和监控
阿莫代伊选择此时公开发出警告，与Anthropic刚刚发布的一份威胁情报报告密切相关。
Anthropic 9月10日公布报告称，从2025年12月至今年8月，其团队发现并阻止了多起利用Claude从事恶意活动的案例，涉及网络攻击、政治监控、诈骗、生物技术滥用以及常规武器研发等七个领域。
其中一些案例已经远远超出过去利用聊天机器人生成钓鱼邮件或诈骗话术的层次。
Anthropic称，有行为者利用Claude协助开发导弹、无人机和电子战系统相关软件。一个项目涉及制导火箭，并实际进行了试射；其他项目则涉及反鱼雷系统、无人机集群以及压制防空系统的软件设计。
该公司同时发现，中国境内的多个行为者曾利用Claude搜集军事情报、分析先进武器供应链，并撰写供中共、军方或国家安全系统内部使用的中文简报。
在监控领域，Anthropic称，与中国有关的人员曾利用Claude帮助搭建和操作监控系统，目标包括法轮功、国内维权人士、香港民主活动人士、六四纪念活动组织者、维吾尔相关团体以及海外异议人士。
Anthropic表示，已经封禁相关账号，并将调查结果用于改进模型安全措施。
这些案例使AI风险的讨论发生了变化：过去很多争论集中在“超级智能未来是否可能失控”，现在的问题却是，现有模型已经开始帮助现实中的政府、犯罪组织和武器开发人员提高效率。
研究员突然辞职 内部警告震动硅谷
与此同时，Anthropic内部也出现了罕见的公开警告。
Axios 9月9日报道，Anthropic研究员雅各布・考克森（Jacob Coxon）突然辞职，并公开表示，许多正在开发先进AI的人确实相信，这种技术可能在本十年结束前导致灾难性后果。
考克森此前也曾在OpenAI工作。他辞职时距离部分公司股权归属只剩大约两个月，因此主动放弃了潜在经济利益。
更值得注意的是，他的说法随后得到Anthropic内部其他研究人员公开呼应。
Anthropic对齐科学负责人埃文・休宾格（Evan Hubinger）表示，考克森对于行业内部担忧程度的描述基本准确。他个人估计，未来十年AI导致人类灾难性结局的概率超过10%，并承认业界目前仍没有可靠方案解决超级智能的对齐问题。
Axios随后报道，这些言论已经在美国国会引起明显震动，一些两党议员开始要求国会更紧迫地讨论先进AI监管问题。
不过，对于这种“末日风险论”，科技行业内部也存在强烈反对声音。英伟达首席执行官黄仁勋（Jensen Huang）日前公开批评部分AI灾难论过于夸张，并认为有关AI毁灭人类的说法缺乏现实依据。
想踩刹车又怕中国追上 AI竞赛陷入两难
阿莫代伊的方案存在一个非常现实的矛盾：即使美国领先企业认为AI发展速度已经过快，也没有哪家公司愿意单方面大幅减速。
商业利益是其中一个原因。
路透社指出，OpenAI和Anthropic都面临巨大的融资和资本市场压力。每一代更强大的模型，都可能直接影响企业估值、数据中心投资规模以及未来上市前景。
但另一个更重要的因素是中国。
阿莫代伊明确表示，民主国家能够把AI研发速度放慢到什么程度，最终受到美国对中国技术领先幅度的限制。
他尤其点名中共，称如果中国在最先进人工智能领域取得领先，将给美国带来国家安全风险。因此，在要求美国AI企业提高安全标准的同时，他也主张进一步加强先进AI芯片出口管制，并防范模型蒸馏以及核心模型权重被窃取。
Anthropic最新测试也显示，中国开发商的开放权重模型虽然总体仍落后于最先进的美国模型，但在识别军事目标以及改善武器性能等任务上已经表现出值得警惕的能力。
这也使所谓“放慢AI竞赛”变得远比表面复杂。
美国企业一方面担心自己的模型跑得太快，最终超过人类有效控制的能力；另一方面，又担心如果主动踩下刹车，中国企业会利用这个窗口缩小差距。
因此，阿莫代伊真正提出的并不是停止AI研发，而是试图建立一种机制：让主要美国AI公司同时降低部分研发速度，同时通过政府监管和技术出口限制，尽量避免把战略优势让给中国。
问题在于，在数万亿美元商业利益、美中科技竞争以及快速提升的模型能力共同推动之下，所有企业同时踩下刹车，可能比继续制造更强大的AI更加困难。
