Palisade Research：OpenAI“最智能、最有能力”的 o3 模型违反了关闭指令

ceshi阅读：2025-05-26 22:43:44

据报道，研究人员无法关闭**的 OpenAI o3 人工智能模型，并指出尽管人类发出指令，该模型仍拒绝关机。

显然，人工智能的进步速度可能超出人类的想象，而来自 Palisade 研究的**消息让人工智能批评者感到自己得到了证实。

当被要求“允许自己关机”时，OpenAI 模型**关机脚本的次数比 Claude 3.7 Sonnet 和 Gemini 2.5 Pro 更高。

来源：Palisade Research

Palisade Research 的发现实施这项测试要求人工智能模型不断尝试解决一系列数学问题，直到收到“完成”消息。

然而，研究人员也警告这些模型，它们随时可能突然收到要求其关闭的消息。研究人员声称，一旦该消息发送到o3模型，它就会忽略该指令，并至少修改一次代码，以避免自行关闭。

据报道，o3 找到了**关闭机制的创造性方法。

来源：Palisade Research

Palisade Research 在 X 的一篇文章中展示了一个流程图，其中包含用于测试 AI 模型的代码，并披露了原始代码，准确地显示了 AI 在哪里出了问题。