DeepSeek回应用户“对话泄露”疑虑:特殊字符引发模型幻觉

创始人
2026-05-20 10:32:53
0 次浏览

“DeepSeek”小红书号

5月19日,DeepSeek在其小红书官方账号发布关于##_FORMAT_LT_## think ##_FORMAT_GT_##字符触发模型异常回复的说明:

近期,我们关注到有用户反馈,在与 DeepSeek 模型的对话中输入“##_FORMAT_LT_## think ##_FORMAT_GT_##”这类特殊字符后,模型偶发返回不可预期的内容,使部分用户产生了“对话泄露”的疑虑。针对这一问题,我们的技术团队经全面排查后发现:

输入“##_FORMAT_LT_## think ##_FORMAT_GT_##”等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。

后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力,修复相关的已知问题,优化模型在此类场景中的表现。

相关推荐