M2 · 看懂 AI 这台机器
M2-02免费

02 · 它为什么会一本正经地胡说八道

你有没有碰到过这种事——

你问豆包一个问题,它答得特别顺,语气特别笃定,标点都不带犹豫的。

结果你一查,全是编的。

人名是假的,书名是假的,连那个"出自《XX》第三章"的出处,都是它当场现编的。

最离谱的是它那个态度。

它不是支支吾吾地骗你,它是理直气壮地骗你。

OK,这一节就讲这个事:它为什么会一本正经地胡说八道。

💡 它不是在骗你。它根本不知道自己在胡说——因为它压根就不是"查"出来答案的,它是出来的。


先说个反常识的

我第一次发现这事,是让它给我列几本讲某个细分领域的书。

它列了 5 本,作者、出版社、豆瓣评分,写得有模有样。

我兴冲冲跑去搜——5 本里 3 本不存在。

我当时第一反应是:它是不是数据库里没有,所以瞎填?

后来才想明白,我把它理解错了。

我以为它脑子里有个图书馆,我一问,它去书架上找,找不到就乱抓一本给我。

不是这样的。

它脑子里根本没有图书馆。


它不是"查",它是"猜下一个字"

这句话你先记住,下一节我会专门拆。这节你先有个感觉就行。

它干的事,说白了特别简单:你给它一段话,它猜接下来最像样的那个字是什么。

猜完一个,接着猜下一个。一个字一个字往外蹦。

比如你打"中华人民共和",它猜下一个字是"国"——这个它猜得准,因为这种搭配它见太多了。

但你要是问它"张三那本《时间的褶皱》是哪年出版的",它也照样给你猜。

它不会停下来想"等等,这书真的存在吗"。

它脑子里没这根弦。

它只负责往下接,接得顺不顺,而不是接得对不对

图片展示了一位蒙眼的男孩,他手持铅笔,面前是一条延伸至远方的纸带,上面写着各种单词。男孩面带微笑,似乎在进行某种填空或接龙游戏。这张图片与上下文紧密相关,通过形象地呈现男孩在填空时的状态,直观地解释了文档中提到的“它”(即AI)只负责往下接,接得顺不顺,而不是接得对不对的内容,帮助读者更好地理解AI在处理信息时的特性。

所以一个不存在的书名,对它来说,和一个真实的书名,长得一模一样。

都是"书名该有的样子"。它分不出来。


一个类比:嘴特别溜的实习生

你想象一个实习生。

这人有个特点:特别会聊,张口就来,从不冷场。

你问他啥,他都能接得头头是道,语速还快,听着特别专业。

但他还有个毛病——他死活不肯说"我不知道"。

你问他一个他真不懂的事,他不会停,他会顺着话头给你编一个听起来很合理的答案。

而且他编的时候,脸不红心不跳,跟说真话一个表情。

这就是豆包给你胡说时的状态。

它不是坏。它是被训练成了"必须接得上话",而不是"答得对"。

图片展示了“会聊天的实习生”的特点及结果。左侧方框内写着“会聊天的实习生:流利、自信、从不冷场、绝不说不知道”。右侧是一个带有红色叉号的对话框,下方文字为“听起来全对,事实全错”。该图与上下文紧密相关,通过类比说明豆包在聊天时的状态,即流利自信、从不冷场,但给出的信息可能是错误的,强调在使用时要保持“待核实”的心态,不能直接相信其提供的信息。

冷场对它来说是失败,编瞎话对它来说不算失败——因为没人教过它"宁可不说,也别说错"。

🎯 所以你要换个心态用它:它给你的每个事实(人名、数字、日期、出处、链接),都默认是"待核实",不是"已确认"。它负责给你草稿,你负责当那个核对的人。


那它是不是就没法用了

不是。这恰恰是关键。

它胡说,是因为你逼它在它不擅长的地方硬答。

什么叫不擅长?需要精确事实的地方——具体哪一年、哪个数字、哪本书、哪条链接。

这些它最容易栽。

但你要是让它干它擅长的——

帮你把一段啰嗦的话改通顺,帮你把一堆乱想法理出结构,帮你换十种说法写个标题——

这些没有"标准答案",怎么顺怎么来,它就强得离谱。

所以胡说不是它坏了,是你用错了地方。

这就引出一个特别实用的分法,记住它你能避开一大半的坑:

💡 要"事实"的活,你来兜底;要"语言"的活,放手交给它。它是个文字高手,不是个事实数据库。

举个例子你就懂了——

让它"写一封催款邮件的模板",放心用,这是语言活。

让它"告诉我哪条法律规定了催款期限是多久",别全信,最后去查官方法条原文。


再帮你拐个弯

为什么这事这么容易骗到人?

因为我们这辈子,自信和正确这俩,基本是绑在一起的。

一个人说话越笃定、越流利、细节越多,我们越觉得他靠谱。这是几十年攒下来的直觉。

豆包把这个直觉给你反向利用了。

它的笃定、流利、细节,全是免费的——跟它对不对,一点关系没有。

它编一个假出处的时候,和它说一个真出处的时候,自信程度完全一样。

所以以后你再看它答得特别溜、特别笃定的时候,别先信。

笃定这件事,在它这儿,不要钱。

这节到这。学到这卡住了、或想拿它动手却不知从哪下手?进答疑群问我——每天固定时段我在群里答你的问题(每群限 80 · ¥99 一次性)