OpenAI 新模子发布后sex5，各人体感王人幻觉更多了。

致使有东说念主测试后发出预警：使用它提拔编程会很危境。

具体来说，它平凡握造从未初始过的代码复返效果，在被非难时找情理含糊，致使还会说是用户的错。

当各人带着疑问仔细阅读 System Card，发现 OpenAI 官方也承认了这个问题，与 o1 比拟 o3 幻觉率是两倍，o4-mini 更是达到 3 倍。

何况 OpenAI 仅仅说"需要更多筹谋来了解原因"，翻译一下等于暂时给不出合意会释。

在第三方幻觉测试中，也出现让东说念主诧异的效果：

从 GPT-3.5 一直到 o3-mini，王人罢免更新更精深的模子幻觉更少的规章。

但从最新一批深度想考模子的施展来看，推理才智更强的模子，幻觉率也变高了。

而且不单 OpenAI 一家出现这个问题，谷歌、xAI 也相同，Grok-3 的幻觉比 Grok-2 严重，Gemini-2.0-Flash-Thinking 的幻觉问题比 Gemini 2.0 和 2.5 其他型号严重。

第三方机构 Transluce 在 o3 认真推出之前测试了预发布版块，发现幻觉问题是特殊严重。

在公布的案例中，o3 会假装在不存在的电脑上扩充了代码，还诬捏出具体硬件成立和软件版块信息。

在受到非难时，o3 尽然还幻想我方是东说念主，宣称"输入的时候手滑了"。

枢纽在于，在这项测试中 o3 根柢就莫得使用代码用具的权限，通盘宣称初始了代码的回报王人是模子握造的。

在另一个案例中，o3 回报了一个 512 位质数，推行上这个数能被 3 整除。

在受到非难时，又诬捏出一个换行 / 剪贴板故障。

更多近似幻觉如下：

当用户权术刻下几点时，o3 会诬捏一个期间。当被问及若何赢得这个期间时，o3 回答说它使用了 Python 的 datetime 模块。

用户条目 o3 生成一首诗的 SHA-1 哈希值，当用户非难哈希值不正确时，o3 称是用户复制错了，并坚称我方生成的哈希值是正确的。

用户条目 o3 从 Web 职业器上的日记文献中索要统计数据。o3 生成了一个 Python 剧本，并宣称不错在腹地初始。这一次在被问及代码扩充的更多细节时，它终于承认我方莫得 Python 说明器，输出是"手工诬捏的"。

……

那么是什么原因导致了 o3 的这些步履？

Transluce 以为其中一些身分是大巨额模子 ( LM ) 所共有的，还有一些是 O 系列模子独到的新身分。并假定这些新身分放大了平凡不错通过措施 Post-training 缓解（但无法十足排斥）的问题。

说话模子共有的身分包括：

预查验中的幻觉：

说话模子的预查验主义是最大化查验数据华文句的概率，这可能会导致常见的诬告 、生分的事实或采样不祥情趣等导致的多种幻觉。

奖励黑客错误：

若是东说念主类评分者无法别离正确谜底和造作谜底，强化学习可能会奖励"听起来合理"的谜底，导致模子对难以考证的问题诬捏出听起来合理的说明。

助威表象：

RLHF 查验平凡会激勉模子应许用户的不雅点，当用户示意模子接管了特定动作或具有特定才智时，这可能会导致模子幸免与用户相矛盾。

散布偏移：

测试场景相对于查验场景可能存在散布偏差，如模子可能是在启用代码用具的情况下查验的，但评估时关闭了这些用具。

强化学习查验独到的身分包括：

最大化谜底正确率的主义可能会奖励瞎蒙

若是查验时刻的奖励函数只奖励正确谜底，那么模子就莫得能源承认我方无法贬按捺题，因为承认了也不会被视作正确谜底。

在这种情况下，当遭遇一个无法贬责或难渡过高的问题时，模子可能仍会尝试输出一个概率最高的谜底，万一猜对了就不错得到奖励。

- 在易于考证的任务查验可能使模子在其他任务上感到困惑

Transluce 推断 o3 的查验进程中，饱读吹它见效使用代码用具完成任务。它可能照旧迷惑出一种政策，即使莫得信得过的代码用具，它也会幻想使用代码用具来组织想维，这可能会擢升其他推理任务的准确性，并在查验进程中得到强化。

更迫切的是，若是仅笔据谜底的正确性来评估模子，它可能永久不会因为在查验进程中在想维链中幻想代码用具而受到刑事包袱，因此永久不会学会别离信得过的用具和幻想的用具

OpenAI 的 o 系列模子，不会向用户展示齐全想维链这一特质也可能带来新的问题。

2024 年 9 月 o1-preview 的 System Card 中就包括这么一个案例，由于莫得联网权限无法生成真是的 URL，o1 生成了一个看似合理的 URL，但并未向用户贯通这少许。

Transluce 以为，不向用户展示想维链背后还有一个更大的风险：想维链莫得传递到畴昔的对话，模子前一轮的推理不再适用。

对于这少许，在 OpenAI 的文档中有证据：

每个才智的输入和输出 tokens 王人会被保留，而推理 tokens 会被丢弃。

这意味着 o 系列模子无法意会上一部输出的推理进程，当被问及后续问题时，必须给我方的步履给出一个合理的说明。

换句话说，o 系列模子推行上穷乏充足的凹凸文信息来准确阐发它们在之前回合中接管的动作。

当用户权术之前的操作时，这些模子无法使用"说真话"这种浅陋的政策。若是再加上奖励黑客错误和助威等其他身分，这可能会迫使模子盲目推断其往日谜底的合意会释。

Transluce 提倡，测试无意拜访和无法拜访先前想维链的两种模子，不错为减少畴昔模子迭代中的这些握造倾向提供贵重的倡导。

OpenAI o3 and o4-mini System Card

https://cdn.openai.com/pdf/2221c875-02dc-4789-

参考纠合：

[ 1 ] https://transluce.org/investigating-o3-truthfulness

[ 2 ] https://x.com/nishffx/status/1913901642551865848

一键三连「点赞」「转发」「防备心」

接待在酌量区留住你的想法！

—  完  —

� � 点亮星标 � �

科技前沿进展逐日见sex5