Model exposes system prompt instruction 'Inform the user' in output after update
Open 💬 2 comments Opened Jul 14, 2026 by wang1970
问题描述
更新后,当模型遇到不支持的图片输入时,会把 system prompt 中的指令文本 Inform the user 作为回复内容输出给用户。这是内部指令暴露(instruction leakage),用户不应看到这些内容。
复现步骤
- 发送包含图片的请求到不支持 vision/多模态的模型
- 模型返回以下格式的回复:
ERROR: Cannot read "image.png" (this model does not support image input). Inform the user.
- 用户看到
Inform the user这条系统指令
期望行为
- 对于不支持图片输入的模型,应返回标准 HTTP 错误(如 400 Bad Request),而不是把系统指令作为模型输出返回
- 系统指令(如
Inform the user)不应暴露给用户
实际行为
- 模型把
Inform the user作为回复文本输出 - 这是 system prompt 指令的泄露
- 用户看到内部指令文本
时间线
- 更新前:正常(不支持图片的模型不会返回此类文本)
- 更新后:出现上述问题
影响
- 内部 prompt 设计暴露给用户
- 用户体验受损
- 可能存在 prompt injection 风险
环境
- OpenAI Codex CLI 最新版本
- 通过代理层访问(api-switch,透明转发,不修改响应内容)
补充
该问题通过代理层的 raw protocol 日志已确认:上游原始响应中已包含 Inform the user 指令文本,非下游代理生成。请检查最新版本中是否在 system prompt 里新增了类似指令,或模型行为是否有变化。
This issue has 2 comments on GitHub. Read the full discussion on GitHub ↗