课程 · 付费课

AI 母语思维

简介
让 AI 成为你的第二母语。8 章、47 节,购前须知和目录全公开,正文开通后解锁——左边第一项是购前须知,往下逐章读。
AI越来越不对劲的几种原因
上下文管理
上下文管理

AI越来越不对劲的几种原因

干着干着,它就开始不对了。

明明说过的它却忘了,新开一个对话,我是谁、我要什么,又得从头讲一遍。

明明昨天在另一个窗口里干过的那一段,今天换个对话接着干,它一句都接不上。

明明交代过不要的一版方向,它这一版又给你写进去了,它照的是你早就改过的那一版规矩。

换了个更贵的模型,没用。咱们把话重讲一遍,管两轮,然后又回去了。

这不是一个毛病,是几个。这同样也是在大模型能力变得越来越强之后,我们的一个错误的使用习惯导致的。它虽然能够同时吞吐非常大量的上下文,但是却很少有人告诉你们到底该怎么管理上下文。

当上下文开始出现混乱的时候,AI表现出来的症状几乎一样,原因和解法完全不同。

认出是哪一种,比换模型管用。

他拿钥匙往第三个锁孔里试,箱面三个孔之间连着橙箭头;左上贴着「症状一样」,中间「原因不同」,试的那个孔旁「是哪一种」,桌上一把打红叉的钥匙旁写着「才用得上」

你撞上的是哪一种那就往哪儿使劲
你每一趟都从零开始,每开一个新对话都得把「我是谁、我要什么」重讲一遍把长期不变的那部分固定下来,让它自己去读
进度没有家,隔几天回来、或者几个窗口各干各的,接不上让它一边干一边记,跨天跨窗口都读同一份文件
你交代过的规矩攒到二三十份,同一条在两个地方写着,它这一趟读的是过期的那一份一件事只留一个地方写着,提示词里别再抄一份,改一处就够

这几样看着不一样,说白了就一件事:

AI和你工作的当下,手里拿着的东西对不对。

真正稀缺的从来不是它聪明不聪明。同一个模型,料给对了它像换了个人,料给糊了它就开始胡来。

头部模型已经做到100万的上下文,什么概念?7~8本书那么多。你手上天天在用的那个多半没这么大,25万上下。不管是哪一个数,能一次吞下这么长的上下文,不代表能够精准的处理。

我一直有一个体感,也是我在自己同时推进七八个项目,并且实现盈利的同时一直沿用的操作逻辑:

优秀的上下文管理,可以给一个模型带来几乎翻倍的能力

那什么是上下文系统?什么又是上下文管理?

在这里给大家提一个比较重要的点,也是整个上下文系统最需要我们理解的。

所谓上下文系统其实就是一个非常规整的文件夹。

这个文件夹下面存储了一个个你沉淀下来的文件,都是一些会被重复用到的上下文。

可以是记录你是谁的一个文件;可以是记录你的自媒体的创作流程的一个规范文件;可以是定义你的文风的一个文件,可以是描述你的受众画像的一个文件。

这些文件由一些代码和自动的指令被串起来。在生产的流程中,被按照顺序注入到提示词当中,控制模型在想要的方向上发挥出最准确以及最大的能力,这个就是上下文系统。

他把一块文件板放上传送带送进右边那台机器,左边立柜标着「一个文件夹」,柜里一份文件挂着「一份一件」,传送带上写着「按顺序送」,机器旁「反复用」

这是它长全了之后的样子。一开始不用长成这样,一份就够开张。

那上下文管理,说白了就是我们应该去如何管理好自己这一份份的文档,这份文档负责什么?里面该放什么?什么时候不应该被用?什么时候一定要被用?还有一个我自己踩过坑的一个点,就是这份文档什么时候需要被更新了?

这个模块里展开说明