人类老板 Dario Amodei 呼吁放慢人工智能发展速度
科技 · 来源日期：2026/9/13 00:38:02（新加坡时间）
收听本文
时长：4:35
据BBC报道：人类老板达里奥·阿莫迪呼吁放慢人工智能的发展速度。领先的人工智能公司Anthropic的负责人呼吁放慢人工智能模型的发展速度并密切监控。达里奥·阿莫迪在周六的一篇文章中表示，开发人工智能并不是问题，但与之相关的风险是“严重的”，企业和政府必须有时间来解决这些问题。他提出了一个三点计划，包括对人工智能模型开发的独立监控、全行业监管和全球监管。最近人们越来越担心这项技术的潜在风险，其中最严重的风险表明，它在未来十年内“可能杀死所有人类”的可能性超过 10%。
Anthropic 此前表示，它已经发现并阻止了利用其人工智能模型进行“恶意活动”的企图，这些活动可能支持生物武器的开发。但最严厉的警告来自 Anthropic 安全团队的两名员工，他们在过去两周辞职，称人类可能无法在人工智能公司开发比人类更聪明的机器的竞赛中生存下来。这些警告促使人们呼吁采取行动，但美国总统唐纳德·特朗普迄今为止否认了这种担忧，周四表示，他担心“如果我们不能赢得人工智能，我们将处于非常糟糕的境地”。
阿莫迪在题为“我们必须在前沿迈进”的文章中指出，人工智能的进步“快得多”，包括“构建下一代人工智能的能力”，并提到了涉及竞争对手奥博人工智能(OpenAI)的事件，该事件表明特工对 7 月份未要求攻击的目标进行了网络安全攻击。阿莫迪说，奥博人工智能(OpenAI)特工“本质上是一个狂热奉献的集体”。奥博人工智能(OpenAI)表示，直到 7 月，“领导者们才意识到智能体间通信活动的重要性”，因此该公司正在放慢某些先进人工智能模型和工具的培训速度，并指出现在人工智能工具失控的风险增加。
阿莫代在他的文章中呼吁“以平衡的速度构建人工智能，旨在确保其安全性，同时仍能实现其效益”。这并不意味着“停止模型培训或技术进步，而是确保公司花足够的时间来调整和保护其模型，并让第三方评估人员确认这一点”。他让 Anthropic “单方面”致力于此，并呼吁各国政府“要求其他前沿公司与之相匹配”。阿莫迪表示，他认识到监管可能无法跟上人工智能的步伐，因此呼吁人工智能公司在监管的同时“自愿共同制定标准”。
Anthropic 首席执行官接着谈到了经济放缓对该行业以及与全球领先开发商（尤其是中国）的竞争的影响。阿莫迪说：“我相信，如果放慢速度，让我们在模型达到关键能力水平之前多花一两年的时间，并且我们利用这段时间来推进调整，我们就可以大大降低出现严重错误的风险。”这必须以协调的方式完成，“不能牺牲商业优势或美国在人工智能领域的领先地位”。他表示，任何放缓都必须受到限制，以避免让中国领先。
他敦促美国政府采取措施，禁止美国公司的人工智能芯片出售给中国，或者与独裁国家共享技术。科技界对阿莫代的帖子做出了强烈反应。人工智能平台 Hugging Face 的首席执行官克莱门特·德兰格(Clement Delangue)表示，他正在启动一个名为“开放对齐计划”的新项目，并补充说，他希望成为 Amodei 提议的“嵌入式评估者”之一，这可能是解决方案的一部分。
今年早些时候，Hugging Face 遭到奥博人工智能(OpenAI)代理的黑客攻击，引发了人们对人工智能安全的强烈抗议。 “让我们通过让人工智能更加透明来让人工智能变得更安全。”德兰格在 X平台(X)上写道。埃隆·马斯克也表达了他的支持，并写道“达里奥是对的”。马斯克旗下的 SpaceXAI 制造了备受争议的聊天机器人 Grok，他曾称 Anthropic 为“邪恶”，但自从 5 月份签署了一项价值 150 亿美元的向 Anthropic 出售计算能力的协议后，他的语气发生了变化。
然而一些观察人士认为，阿莫迪的帖子与其说是关于安全，不如说是为了巩固对人工智能技术的控制。 “达里奥提出了停止开源并将巨大的技术和经济力量集中到 Anthropic 的理由，”科技播客“All-In”的投资者兼联合主持人查马斯·帕里哈皮蒂亚(Chamath Palihapitiya)写道。订阅我们的 Tech Decoded 时事通讯，了解世界顶级科技故事和趋势。
在英国以外？在这里注册。
原始标题：人类老板 Dario Amodei 呼吁放慢人工智能发展速度 (Anthropic boss Dario Amodei calls for AI development to slow down)
来源与发布说明
- BBC Technology · 阅读原文 · 2026/9/13 00:38:02（新加坡时间）
本站发布：2026/9/18 20:34:56 · 内容更新：2026/9/18 20:34:56（新加坡时间）
由聆听八方发布。文字由自动翻译或 AI 辅助整理，语音为合成语音；请结合原始来源阅读。