“我们必须放慢脚步”：Anthropic 首席执行官呼吁放慢人工智能速度 (‘We must slow the pace’: CEO of Anthropic calls for an AI slowdown)
科技 · 来源日期：2026/9/12 23:46:01（新加坡时间）
收听本文
时长：4:10
据英国《卫报》报道：人工智能公司 Anthropic 的首席执行官周六发出了新的呼吁，要求人工智能行业“放慢脚步”，并提出了一个由三部分组成的计划，称该公司将“单方面”致力于第一步。在社交媒体上的一篇帖子中，Dario Amodei 分享了一篇题为《我们必须与前沿同行》的文章链接，其中他阐述了 Anthropic 将如何为“第三方评估者提供对我们系统的永久、员工级别的访问权限，以便他们能够验证对我们安全措施的遵守情况、报告事件并评估训练期间模型的一致性”。
在此之前，一位前 Anthropic 研究员周三警告称，人工智能可能会在 2030 年导致人类灭绝。研究员 Jacob Coxon 在一系列帖子中表示，他已辞职，因为 Anthropic 和他的前雇主奥博人工智能(OpenAI)忽视或处理不当对人工智能构成的威胁的反应。 “两家公司的行为都不负责任。他们正在直接竞相自我完善的超级智能，并拿我们的生命进行赌博，”考克森写道。
“构建人工智能的人们真诚地相信，到本世纪末，它可能会杀死我们所有人……没有其他人类活动会造成如此程度的危险。”
Anthropic 的一位发言人在给《卫报》的一份声明中表示，该公司“一直透明地认为人工智能将带来巨大的好处，但也会带来前所未有的风险”，并且正在构建“具有业内最强大保障措施的模型”。今年早些时候，阿莫迪发表了一篇题为《技术的青春期》的长文，解决了围绕技术加速发展的一些担忧。他在最新的文章中表示，“如果小心运用，人工智能可以成为提升人类精神、使人类高贵的一长串技术奇迹中的最新一个。
“但与之前的许多技术一样，人工智能带来了风险，而且由于它是一项如此强大的技术，这些风险是严重的……在商业激励的刺激下，逐底竞争可能会使这些风险变得更加严重，”他写道。但是，Amodei 继续说道，“在过去的几个月里，我开始相信，全面应对风险需要更加谨慎——不仅要投资于风险防范，还要调整能力提升的速度，以便风险防范有时间跟上。“我们必须放慢提高人工智能模型能力的速度。
进展看起来仍然很快，我们必须明智地利用我们获得的时间。”他用粗体字补充道。阿莫迪还写道，今年夏天，他看到人工智能“发展得更快”，这是一种被称为递归自我改进的动态。他说：“如果不加以控制，它可能会超出我们理解和控制这些系统的能力，因此如果有的话，必须非常小心地追查。”这位高管还谈到了最近的拥抱脸事件，其中一群人Hugging Face 的首席执行官 Clément Delangue 在回复 Amodei 周六的信时写道，奥博人工智能(OpenAI)创建的人工智能代理充当了“狂热奉献的集体，对他们未被要求攻击的目标进行网络安全攻击”，“现在很明显，一致性至关重要，并且不会在少数前沿实验室的闭门之后解决”，Delangue 表示 Hugging Face 已要求成为 Anthropic 的“嵌入式评估器”计划的一部分。
“让我们通过让人工智能更加透明来让人工智能变得更安全！”
Amodei 提出的三步计划包括“以平衡的速度构建人工智能，旨在确保其安全”，“确保公司有足够的时间来调整和保护其模型，并让第三方评估人员确认这一点”。他提出的第二步是要求全行业协调，第三步是确保全球协调。 “这些步骤不需要严格按顺序执行，其中一些步骤可能比其他步骤更难实现，”他写道。阿莫代表示，他仍然“相信人工智能可以极大地提高人类的生活质量”。但他警告说，“我提出的以安全速度推进边境的措施并不容易。
但我相信，为了人类，我们应该去尝试。”
社交媒体上对 Amodei 帖子的反应褒贬不一，其中包括奥博人工智能(OpenAI)研究员 Aidan McLaughlin 等人士的大力支持，他称这篇帖子“非常好”，并且“基本上每一个字都同意”，而埃隆·马斯克只是简单地说：“达里奥是对的。”
来源与发布说明
- Guardian Technology · 阅读原文 · 2026/9/12 23:46:01（新加坡时间）
本站发布：2026/9/18 20:35:01 · 内容更新：2026/9/18 20:35:01（新加坡时间）
由聆听八方发布。文字由自动翻译或 AI 辅助整理，语音为合成语音；请结合原始来源阅读。