06 · 它干不了什么：能力的边界

你有没有过这种时刻——AI 答得特别顺,顺到你忍不住信了。

然后第二天发现,它给你编了个根本不存在的东西。

一本书、一个网址、一条法规,全是假的。

就是 M2 里讲过的那种坑——它给你编书名,编得有鼻子有眼。

这一节我们正面把它摊开:它到底有哪些地方,你绝不能闭眼信。

编书名,只是它一长串坑里最眼熟的那个。

说到底:这台机器最危险的地方,不是它不会,是它不会的时候,装得跟会一样。

---

先说回豆包

你跟豆包聊,大部分时候它挺顺。

但你心里得有杆秤:它顺,不等于它对。

它最擅长的,是把话说得圆、说得像。

至于说出来的事是真是假——那是另一回事,得你自己留个心眼。

为什么会这样?这得从它的"天性"说起。

💡 一句话核心:AI 不是百科全书,是一个特别会接话、但骨子里只图"说得像"的超级实习生。它的本事和它的坑,是同一个来源。

---

为什么会这样:它的本事和坑是一个来源

前面几节讲过,AI 的核心动作是猜下一个字。

这件事让它特别会聊天、会写、会接话。

但你反过来想——一个永远在"猜最顺的那个词"的家伙,它图的是像,不是真。

打个比方。

它就像一个特别会接话的实习生。

你问他什么,他都能立刻给你一个听起来很顺、很专业的回答。

因为他读过的东西多,语感好,嘴还甜。

但他有个毛病:他宁可编一个,也不愿意跟你说"我不知道"。

为啥?

因为他被训练出来的本能就是"把话说圆",不是"把事查准"。

说"不知道"对他来说太不顺了,不符合他的天性。

这个毛病有个专门的词,叫 幻觉(hallucination)——就是 AI 一本正经地胡编,编得还特别像真的。

记住这个实习生。下面这几条坑,全是从他这个性子里长出来的。

---

它干不了的事:分两种

这里要先帮你分清一件大事,不然你后面会用拧。

它的"短板"分两种:

一种是裸模型的天生短板——光靠它脑子里那点记忆,它干不了。但配上工具(比如让它联网、让它调计算器),很多就补上了。

另一种是工具也补不了的硬边界——这是它作为"一个工具"的本质决定的,你给它再多外挂也没用。

分清这两种,你才知道哪些是"换个用法就行",哪些是"你永远得自己兜底"。

---

第一种:裸模型的短板(配工具能补)

1. 它的记忆,停在过去

AI 是用过去的资料训练出来的。

它脑子里那套"记忆",停在它训练那一刻。

所以光凭记忆,它答不了今天的股价、刚出的新闻、明天的天气。

但请注意——现在主流的 AI 产品(豆包就是),大多已经能自己联网去查。

你问它今天的新闻,它会先去搜一圈,再回答你。

🎯 对你意味着:别问"它知不知道现在",要问"它有没有去查"。带"今天""最新""刚刚"的问题,看它有没有联网搜的动作。让它查了、并且给你看了来源的,可信度高;它光凭记忆张口就来的,默认不准。

2. 它"心算"会出错,但它会用计算器

很多人以为 AI 是个计算器。不是。

它脑子里那套"猜下一个字"的机制,本质是心算——它是"猜"出答案,不是"算"出答案。

所以光靠心算,一笔几个月的复利、一长串数字求和,它可能一脸自信地报错数。

但——现在的 AI 产品,遇到这种活儿,大多会自己写一段小程序去算(行话叫"代码解释器")。

这一步它算得跟计算器一样准。

🎯 对你意味着:别让它"心算",要逼它"动手算"。复杂计算,你加一句"写代码算,把过程给我",它就从"瞎猜"切到"真算",结果可信得多。

---

第二种:工具也补不了的硬边界

下面这几条,不是换个用法能解决的。这是它作为一个工具的本质。

3. 它会"想起"不存在的事

就是开头那个坑。

书、网址、论文引用、法律条文、人物生平——它都可能给你编得有鼻子有眼。

越是冷门、越是具体的事实,它越容易编。

联网能减轻这个毛病,但减轻不等于根治——它依然可能把搜来的东西"理解歪",或者在没搜到时自己补一个。

💡 一个土办法:凡是它给你的具体事实(数字、名字、出处、链接),你都当它"可能是编的",自己核一遍。它适合给你方向,不适合给你终审。

4. 它不懂你没说的事

它没有眼睛,看不见你的处境。

你公司内部的情况、你家里的事、你今天为难的那件事——你不说,它一个字都不知道。

它给的建议,永远是基于"一般情况"。

所以经常正确得很空泛,像那种万能但没用的鸡汤。

真正贴你的判断,得你把背景喂给它,它才接得住。

5. 它不为结果负责

这条最重要。

AI 给你写的合同、报的方案、算的数字——出了事,扛事的是你,不是它。

它没有身份,没有责任,也不会被追责。

它只是个工具。方向盘最后握在你手里。

---

那它到底强在哪

别被我吓着了。说边界,不是说它没用。

恰恰相反——知道边界,你才用得狠。

它强在哪?强在从 0 到 1 那一段:

陪你想、帮你起草、给你列提纲、把一团乱的思路捋顺、把一段话换十种说法。

这些它又快又好,顶你半个团队。

它弱在从 1 到 100 那一段:核实、定稿、拍板、负责。

这些得你来。

🎯 对你意味着:把 AI 当草稿机,不当定稿机。它负责把你从"零"推到"七八分",最后那两三分的较真——核事实、做决定、担后果——是你的活,也只能是你的活。

说白了,它越强,你越得清醒。

一个又快又能干、但偶尔睁眼说瞎话、还从不负责的助手,你敢全交给它吗?

当然不。

你得会用,也会防。