AI 幻觉指的是大语言模型生成了看起来通顺、可信,实际上与事实不符或凭空编造的内容。理解这个词能帮你记住一件事:输出越流畅,越要单独核对重要结论,而不是默认它正确。
一句话定义
AI 幻觉就是模型用自信的语气,说出一个并不存在的事实、引用或数字。它的成因是模型按语言概率往下续写,而不是从一个可靠数据库里查证;所以句子读着对,内容却可能是编的。
一个例子
最典型的幻觉是模型编出一个根本不存在的出处。你在 ChatGPT 里让它给一段结论配参考链接,它可能返回一个格式完整、却指向空白页面的地址,而回答本身可能出错,引用和数字不能跳过人工核验。带引用的工具也不能免疫:Perplexity 会给答案附上来源,但有引用不代表来源本身可靠或结论无误,它的摘要还可能漏掉原文的范围和限制条件。
和相近概念的区别
幻觉和普通错误的区别在于它没有源头可追。普通错误一般能回溯到某个被读错的真实资料;幻觉没有出处,内容是模型自己填出来的。它也和信息过时不一样:过时是指来源曾经正确、后来变了,而幻觉从一开始就没有对应任何真实来源。
什么时候需要特别当心
当输出会直接变成一个决定,或涉及你赔不起错的信息时,最需要防幻觉。日常闲聊里出点小错影响有限,但下面这些场景值得多走一步核对:
- 具体数字、金额、时间点
- 引用、出处、可点开的链接
- 法律、医疗、财务这类专业结论
- 会被你转发或写进正式文件的内容
核对方法很朴素:把关键说法放回原始来源逐一对照。即便用带引用的 Perplexity,也要真的点开每条来源看它是否支持结论;模型、文件与研究额度会随方案变化,别默认某个来源一定被完整读过。上传敏感文件前,还要先检查工具的隐私与数据控制设置。