本文将对清华大学双聘教授沈阳团队发布的关于AI幻觉现象的报告进行阐述。报告以DeepSeek为例，对AI幻觉从多方面进行探讨，包括其定义、产生原因、评测、应对方法以及创造力价值等内容。
由清华大学双聘教授沈阳带领的团队发布了一份报告，这份报告深入地对AI幻觉现象展开研究。其中特别以DeepSeek为例子，从多个维度进行剖析，为我们全面理解和应对AI幻觉提供了丰富的视角。
首先来看看AI幻觉的定义与表现形式。AI幻觉意味着模型会生成一些与事实不相符、逻辑存在断裂或者脱离上下文的内容，大体上可以分为事实性幻觉和忠实性幻觉这两种类型。比如说，当被问到糖尿病患者能否用蜂蜜代替糖这个问题的时候，就可能会出现与事实不符或者偏离提问者意图的答案。在实际的应用场景里，DeepSeek在推荐地点的时候会出现错误的信息，OpenAI的Whisper在医疗转录方面也存在大量的幻觉现象，这对相关的领域都产生了比较严重的负面影响。
那么AI幻觉产生的原因是什么呢？主要有数据偏差、泛化困境、知识固化和意图误解这几个方面。训练数据如果存在错误或者片面性，模型在处理复杂场景时能力存在局限，过度依赖参数化记忆，以及针对用户模糊提问进行“自由发挥”，这些情况都有可能导致幻觉的出现。
关于AI幻觉的评测方面，通过随机生成提示语和抽取事实性幻觉测试题来进行评测。评测结果显示，不同的大模型其幻觉率是存在差异的。例如DeepSeekV3、DeepSeekR1等在通用性和事实性测试中的表现就不一样。推理能力和幻觉率之间存在一种双向的作用机制，推理能力增强的时候，可能会降低或者增加幻觉率，这取决于具体的情况。
普通用户在应对AI幻觉的时候，可以采用联网搜索、双AI验证、提示词工程等方式。提示词工程包含知识边界限定和对抗性提示等多种策略。从技术层面来说，可以借助RAG框架、外部知识库、精细训练和评估工具等方案来减缓AI幻觉。
AI幻觉并非完全只有负面的影响，在科学发现、文艺与设计、娱乐与游戏、技术创新等领域，它还具有创造力价值。就像大卫·贝克团队利用AI“错误折叠”获得了诺贝尔化学奖，DeepMind团队发现AI图像分割的“超现实边界”从而提升了自动驾驶系统的识别精度，科学界也构建了新的研究流程。
最后进行总结与展望。AI幻觉既反映了技术存在的局限性，也蕴含着创新的可能性。我们应该通过三角验证法等方式来应对它，同时也要理解并且利用它的创造力价值，在理性与狂想的交界之处探索创新。
本文全面阐述了AI幻觉相关内容，从定义、产生原因、评测、应对方法到创造力价值等方面进行了分析，最后提出要正确看待AI幻觉，既要应对其带来的问题，也要挖掘其创新潜力。
原创文章，作者：Foster，如若转载，请注明出处：https://www.gouwuzhinan.com/archives/20366.html
