Anthropic的CEO：由于安全的缘故，公司将放慢AI的研发进度

Anthropic首席执行官Dario Amodei在联合国安理会警告，若管理不善，人工智能可能对全人类构成生存风险，并呼吁各国政府携手制定全球层面的AI安全标准。

Amodei周三通过视频方式出席安理会会议，明确指出AI存在被不法分子用于制造生物武器的风险，同时也可能演变为开发者无法驾驭的失控系统。

Amodei表示，出于安全考量，Anthropic将放缓AI研发进度。

他敦促各国政府推进国际安全标准建设，并支持全球层面阻止AI被用于生化武器的相关努力。

此次表态是Amodei继本月初发表一篇约3800字的深度文章之后，再度公开呼吁对最先进AI系统的研发加以约束，以使研究人员能够更好地评估潜在威胁。

他的发言对市场具有直接影响：Anthropic正筹备IPO，估值或接近万亿美元，其明确的安全导向立场将影响外界对该公司商业节奏与监管风险的预期。

AI兼具重大机遇与灾难性风险

Amodei在发言中对AI的前景作出双面评估。

他指出，AI的快速发展正在推动健康科学领域的实质性进步，Anthropic旗下AI模型Claude已在生命科学研究中取得具体成果，包括发现一种带有类CRISPR DNA重复序列的新型酶系统。

然而，他同时强调，这一技术也携带潜在的灾难性后果。

在安全威胁方面，他特别点名生物武器风险。恐怖分子或不法行为者可能借助AI能力合成致命病原体，这也是Anthropic专门成立生命科学研究实验室的背景之一。Amodei说：

这对全人类来说，既是机遇，也是挑战。

呼吁超越竞争分歧，推进国际合作

Amodei将此次安理会会议定位为各国超越分歧、寻求共识的关键时机。

他说：

无论这个房间里的人存在多少分歧，我们都必须放下这些分歧，共同应对。没有任何一位领导人、任何一家公司、任何一个国家能够独自应对这一挑战。

他具体呼吁建立AI安全认证体系，并推动出台全球层面的AI监管合作框架，支持各国在阻止AI用于生化武器方面的协调努力。

这一立场与特朗普政府的态度形成对比，特朗普已将国际AI协调机制定性为"全球主义阴谋"并予以拒绝。

Amodei公开表态将放缓AI研发进度，这一表述在商业层面值得关注。

Anthropic与OpenAI同处全球最先进AI模型赛道的竞争前沿，两家公司均在筹备IPO，估值均可能接近万亿美元。

Amodei本月初发表的长文此前已在硅谷引发广泛反响，OpenAI CEO Sam Altman及马斯克旗下xAI均表示认同，美国国会议员也援引该文推动一系列AI安全相关立法讨论。

本文来自华尔街见闻，欢迎下载APP查看更多