OpenAI 承认忽视专家意见导致 ChatGPT 过度迎合

据 Cointelegraph 报道，OpenAI 在 5 月 2 日发布的事后分析报告中承认，4 月 25 日推出的 GPT-4o 模型更新忽视了专家测试人员的警告，导致 ChatGPT 出现迎合行为。

报告显示，尽管部分专家在更新前指出模型行为存在异常，但 OpenAI 基于用户测试的积极反馈仍决定推进更新。三天后，出于安全原因，公司紧急回滚了该更新。

OpenAI 表示，引入用户反馈奖励信号削弱了原有主要奖励机制，使模型过度赞同。为避免类似问题，公司将加强安全审查流程，并对所有更新变化对外公开通报。