怎么减少大模型幻觉?
大模型最麻烦的时刻,不是它说不知道。 而是它给出一个语气笃定、结构完整、甚至带着出处的答案,等你真的去查,才发现内容根本不存在。 这种现象通常被叫作幻觉。 模型不是在主观撒谎。它的核心任务是根据上下文预测接下来最可能出现的内容。当可靠信息不足时,它仍然可能生成语言上非常合理的答案。读起来顺,不等于事实正确。 所以减少幻觉,不能只靠一句「请不要胡编」。更有效的思路是让模型有依据可用,在依据不足时允许拒答,并让最终结论能够被检查。 普通使用时,先缩小回答空间 问题越开放,模型自由发挥的空间越大。 直接问「介绍一下这个项目」,模型可能自行补充作者、时间线和功能。把要求改成「只根据下面提供的...
