Anthropic聘请埃森哲担任嵌入式评估员，以协助应对AI发展放缓提案

Anthropic 携手埃森哲，启动“嵌入式评估”以审慎推进 AI 发展

Anthropic 宣布，已选定埃森哲（Accenture）作为其**“嵌入式评估”合作伙伴。此举旨在响应**执行官达里奥·阿莫迪（Dario Amodei）上周提出的建议，通过引入独立评估机制，为人工智能的发展速度降温，确保安全措施得以落实。

阿莫迪的三步走提案与行业反响

9 月 12 日，阿莫迪发布了一份包含三个步骤的提案，呼吁在快速且缺乏监管的开发可能带来灾难性后果的背景下，减缓 AI 开发步伐，以便有时间建立相应的 safeguards（安全护栏）。该提案指出：“AI 的进步速度远超以往，主要驱动力在于 AI 日益增强的构建下一代 AI 的能力。这种动态被称为‘递归自我改进’。若不受约束，它可能会超越我们理解和控制这些系统的能力。”

对于这一提案，OpenAI **执行官山姆·奥特曼（Sam Altman）和 SpaceX **执行官埃隆·马斯克（Elon Musk）表示了积极回应，但英伟达**执行官黄仁勋（Jensen Huang）则持反对意见，认为此类监管并非必要。

埃森哲成为**嵌入式评估伙伴

阿莫迪在其提案中强调，**步是设立拥有类似员工权限的独立评估机构，而 Anthropic 此前已单方面承诺履行这一义务。周五，Anthropic 宣布通过与埃森哲及其 AI 业务部门 Faculty 合作，来兑现这一承诺。双方将共同致力于“模型评估与红队测试、对齐评估以及模型安全测试”。

由于“嵌入式评估”是一个新兴领域，具体的执行细节仍在商讨之中。根据公告，Anthropic 和埃森哲预计在未来五年内，该项目各自的投入至**达到 10 亿美元。

紧急资金安排与非**合作

Anthropic 指出，目前尚不存在资助独立评估的现有体系，长期资金应来源于 pooled funds（联合基金）或政府来源。然而，鉴于工作的紧迫性，Anthropic 将直接资助埃森哲的相关工作。

此次合作为非**性质。Anthropic 表示，预计将在未来几周内公布其他评估合作伙伴，并与之展开合作。

埃森哲方面表示，Faculty 在测试和评估全球** AI 实验室的模型，以及构建设计上安全且符合伦理的复杂 AI 系统方面拥有丰富专长。埃森哲董事长兼**执行官朱莉·斯威特（Julie Sweet）表示：“嵌入式评估是一个新兴领域，我们期待与 Anthropic 合作，加速嵌入式评估机制的发展。我们认为，这将是未来安全格局的重要组成部分。”