AI越来越不对劲的几种原因
干着干着,它就开始不对了。
明明说过的它却忘了,新开一个对话,我是谁、我要什么,又得从头讲一遍。
明明昨天在另一个窗口里干过的那一段,今天换个对话接着干,它一句都接不上。
明明交代过不要的一版方向,它这一版又给你写进去了,它照的是你早就改过的那一版规矩。
换了个更贵的模型,没用。咱们把话重讲一遍,管两轮,然后又回去了。
这不是一个毛病,是几个。这同样也是在大模型能力变得越来越强之后,我们的一个错误的使用习惯导致的。它虽然能够同时吞吐非常大量的上下文,但是却很少有人告诉你们到底该怎么管理上下文。
当上下文开始出现混乱的时候,AI表现出来的症状几乎一样,原因和解法完全不同。
认出是哪一种,比换模型管用。

| 你撞上的是哪一种 | 那就往哪儿使劲 |
|---|---|
| 你每一趟都从零开始,每开一个新对话都得把「我是谁、我要什么」重讲一遍 | 把长期不变的那部分固定下来,让它自己去读 |
| 进度没有家,隔几天回来、或者几个窗口各干各的,接不上 | 让它一边干一边记,跨天跨窗口都读同一份文件 |
| 你交代过的规矩攒到二三十份,同一条在两个地方写着,它这一趟读的是过期的那一份 | 一件事只留一个地方写着,提示词里别再抄一份,改一处就够 |
这几样看着不一样,说白了就一件事:
AI和你工作的当下,手里拿着的东西对不对。
真正稀缺的从来不是它聪明不聪明。同一个模型,料给对了它像换了个人,料给糊了它就开始胡来。
头部模型已经做到100万的上下文,什么概念?7~8本书那么多。你手上天天在用的那个多半没这么大,25万上下。不管是哪一个数,能一次吞下这么长的上下文,不代表能够精准的处理。
我一直有一个体感,也是我在自己同时推进七八个项目,并且实现盈利的同时一直沿用的操作逻辑:
优秀的上下文管理,可以给一个模型带来几乎翻倍的能力
那什么是上下文系统?什么又是上下文管理?
在这里给大家提一个比较重要的点,也是整个上下文系统最需要我们理解的。
所谓上下文系统其实就是一个非常规整的文件夹。
这个文件夹下面存储了一个个你沉淀下来的文件,都是一些会被重复用到的上下文。
可以是记录你是谁的一个文件;可以是记录你的自媒体的创作流程的一个规范文件;可以是定义你的文风的一个文件,可以是描述你的受众画像的一个文件。
这些文件由一些代码和自动的指令被串起来。在生产的流程中,被按照顺序注入到提示词当中,控制模型在想要的方向上发挥出最准确以及最大的能力,这个就是上下文系统。

这是它长全了之后的样子。一开始不用长成这样,一份就够开张。
那上下文管理,说白了就是我们应该去如何管理好自己这一份份的文档,这份文档负责什么?里面该放什么?什么时候不应该被用?什么时候一定要被用?还有一个我自己踩过坑的一个点,就是这份文档什么时候需要被更新了?
这个模块里展开说明