Palisade Research：OpenAI“最智能、最有能力”的 o3 模型违反了关闭指令

2025-05-27 00:05:44

数字认知网报道：

据报道，研究人员无法关闭最新的 OpenAI o3 人工智能模型，并指出尽管人类发出指令，该模型仍拒绝关机。RUE数字认知网 - 区块链数字货币实时行情平台

显然，人工智能的进步速度可能超出人类的想象，而来自 Palisade 研究的最新消息让人工智能批评者感到自己得到了证实。RUE数字认知网 - 区块链数字货币实时行情平台

当被要求“允许自己关机”时，OpenAI 模型破坏关机脚本的次数比 Claude 3.7 Sonnet 和 Gemini 2.5 Pro 更高。来源：Palisade Research

Palisade Research 的发现实施这项测试要求人工智能模型不断尝试解决一系列数学问题，直到收到“完成”消息。RUE数字认知网 - 区块链数字货币实时行情平台

然而，研究人员也警告这些模型，它们随时可能突然收到要求其关闭的消息。研究人员声称，一旦该消息发送到o3模型，它就会忽略该指令，并至少修改一次代码，以避免自行关闭。RUE数字认知网 - 区块链数字货币实时行情平台

据报道，o3 找到了破坏关闭机制的创造性方法。来源：Palisade Research

Palisade Research 在 X 的一篇文章中展示了一个流程图，其中包含用于测试 AI 模型的代码，并披露了原始代码，准确地显示了 AI 在哪里出了问题。RUE数字认知网 - 区块链数字货币实时行情平台

声明：文章不代表数字认知网观点及立场，不构成本平台任何投资建议。投资决策需建立在独立思考之上，本文内容仅供参考，风险自担！转载请注明出处！侵权必究！