43 岁 Dario Amodei：从理性主义到 Anthropic 的 AI 安全执念

据 Woofun AI 消息， 作为 的创始人及首席执行官，已确立其作为人工智能行业最坚定安全倡导者的地位。他深信这项技术既具备攻克疾病、加速科学突破的潜力，也蕴含失控后毁灭人类的灾难性风险。

这种二元对立的信念深刻塑造了他的职业轨迹，促使他在 任职期间试图将安全理念嵌入开发流程，并因伦理监督与 GPT 项目分歧而最终离职，随后与妹妹 及其他同事共同创立了 Anthropic。在支持者眼中，他正以负责任的方式推进 AI 发展；而在批评者看来，他对安全的极致强调引发了关于谁有权定义 AI 发展边界的核心争议。通过对其同学、朋友、老师及前同事的深度访谈，我们得以重构这位 43 岁科技领袖的思想源头与成长脉络，尽管 Dario 本人拒绝接受直接采访，但其过往言行已清晰勾勒出 Anthropic 预计将在本月上市前的战略底色。

2007 年的一个夜晚，正在普林斯顿大学攻读博士学位的 Dario Amodei 接待了一位来访的朋友，这场对话成为他思想启蒙的关键节点。他刚刚读完计算机科学家 于 2005 年出版的《奇点临近》，书中预测人工智能最终将超越人脑，迎来所谓的 "奇点" 时刻。Dario 一边用手指缠绕着头发，一边向朋友 阐述这一时刻可能在他们有生之年到来的观点。Heckman 回忆道，当时的 Dario 对此着迷不已，坚信 AI 必须以正确的方式被创造，否则人类将面临终结。

当时 24 岁的 Dario 正处于信息吸收的高峰期，他沉迷于阅读《加速的未来》和《克服偏见》等小众博客，深入探讨 AI 毁灭人类的可能性，并积极参与 在线论坛，研究如何通过最大化慈善捐赠效果来应对全球挑战。这些早期阅读与社区互动至今仍在影响着他，为理解这位 43 岁 Anthropic 首席执行官如何看待 AI 提供了关键线索，而 Anthropic 预计将在本月上市，这可能成为全球规模最大的公开上市之一。

Dario 的世界观基石由两种相互交织的思想构成：理性主义与有效利他主义。前者强调以冷静、理性的数学推理看待世界，自学成才的 AI 研究员 是这一思想的代表人物，他认为 AI 将变得足够强大，最终可能摧毁社会；后者则试图通过精确计算最大化社会福祉。在 Dario 的认知中，这两种思潮融合成一种坚定信念：AI 可能极其危险，只有他和志同道合的技术专家才值得被托付开发这项技术。这促使他努力赶在那些不关心人类安全的人之前创造 AI，并激发了他控制这项技术的愿望。

他在 9 月发表的一篇呼吁放缓 AI 发展的文章中写道："只有以正确的方式构建这项技术，我们才能获得它带来的好处。只要我们能善用争取到的时间，就值得以格外审慎的态度把事情做对。"这些思想成为 Anthropic 的基础，2021 年，Dario 与妹妹 Daniela Amodei 以及另外五人共同创立了这家公司，他们都曾与理性主义和有效利他主义社群有过接触，随着公司成长，Dario 一直公开且不遗余力地推动这些观点。

在地缘政治与行业争议层面，Dario 的立场鲜明且充满张力。他主张美国应限制向中国销售芯片，以削弱中国在 AI 领域的竞争能力，并呼吁对 AI 进行监管以防止技术失控。在与美国国防部的争议中，他明确表示 AI 不应用于对美国人进行大规模监控，也不应被用于自主武器。高中同学 指出，Dario 确实认为人类面临巨大的生存风险，并觉得自己需要处于能够对此采取行动的位置。作为一位亿万富翁，随着 Anthropic 公开上市，他的身家预计还将增长。