M2 · 看懂 AI 这台机器
M2-07免费

07 · 模型在哪跑——叫外卖,还是自己家厨房

你每天用豆包,有没有想过一个事——你打的那些字,到底去哪了?

你以为它就在你手机里转一圈?不是的。

你按下发送,那句话其实是飞出去了,飞到很远的一个机房,在别人的服务器上算完,再把答案飞回来给你。

你跟它聊的每一句,都先出了趟门。

平时这没什么。但有那么些东西,你可能并不想让它出门。


上一节聊"用哪个",这节聊"在哪跑"

前面我们挑模型,看的是难不难、急不急、贵不贵。

还有一根轴,那两节没细讲——你用的这个模型,到底在哪台机器上跑

这事关系到一个你迟早会在意的问题:你喂给它的料,出没出你的门。

💡 模型分两种住法:一种住在别人的机房,你的料要送出门;一种能搬进你自己的电脑,料一个字都不出门。


一种是叫外卖,一种是自己家厨房

你想吃顿饭,有两条路。

一条是叫外卖。人家大厨房,锅大火旺,菜式齐全,做出来又快又好。但你得把地址、口味、备注全报出去,你这顿饭是在别人的厨房里做的。

另一条是自己家厨房。锅小,手艺也就那样,做出来朴素点。可所有料、所有讲究,全在你自己灶台上,一步都不出这个门。

模型就这两种住法。

叫外卖,就是你天天用的豆包、DeepSeek 这种——模型住在厂商的大机房里,强、全、还不占你地方,但你的料得送过去才算得了。

自己家厨房,叫开源或者本地模型——你把一个模型整个搬进自己电脑,关起门来自己跑。它没机房那个壮,联不联网都能用,但你喂它的东西,锁死在你这台机器里,一个字出不去。

图片以插画形式呈现,分为“云端”和“本地”两部分。左侧“云端”场景中,一个人手持手机,手机屏幕上显示“我的料”,背景为一座建筑,上方有“云端”字样。右侧“本地”场景中,一个人在厨房操作,灶台上摆放着食材,如胡萝卜、洋葱等,上方有“本地”字样。该图与上下文内容对应,直观展示了叫外卖(云端)和自己家厨房(本地)两种模型运行方式的区别,前者模型在厂商大机房,后者模型在个人电脑。


拆开看,差在三处

这两种住法,真正的区别就三块。

第一,强不强。 机房那个厨房大、火力足,跑的是顶配模型,啃难活更稳。搬进你电脑那个,受你机器限制,通常弱一截,干粗活行,精细活够呛。

第二,要不要联网。 叫外卖得有网,断了网你这顿就没了。自己家厨房,断网照做——这台模型就在你硬盘上,飞机上、没信号的地方,它照样陪你干。

第三,也是最要紧的——料出不出门。 叫外卖,你的内容得送到厂商服务器上才算得了。自己家厨房,你喂进去的东西,从头到尾不离开你这台电脑。

前两条是方便不方便,第三条,是有些时候你真得掂量掂量的。

什么时候,你才该想起还有"自己家厨房"

平时你聊天、写文案、查东西,叫外卖最香,别折腾。

但有那么几样东西,你心里会"咯噔"一下,不太想发出去——

一份还没签的合同、一整张客户名单、公司内部那点没公开的数、自己一些很私人的记录。

这种时候,你脑子里得多一个念头:与其把料送出门,不如让模型来我家。

这一节我不教你怎么把模型装进电脑——那是后面动手的事。我就想让你心里多这么一个选项:当东西敏感到你不想让它出门,"在自己电脑上跑个模型"是个真实存在的退路,不是科幻。

知道有这条路,和压根不知道,是两种人。


这事对你意味着什么

豆包好用,是因为它把你伺候得太省心了——你按个发送,根本想不起来料已经飞出门了。

九成的事,这样挺好,你别给自己加戏。

但你心里得装一根弦:料越敏感,越要问一句"这东西出门了吗"。 真到了不想让它出门那天,你知道还有"搬模型回家"这一手,你就比旁边那个只会叫外卖的人,多了一条路。

至于你的料发出去之后,到底去了哪、被怎么待、安不安全——这是另一个更大的话题了,下一个模块我专门给你讲清楚。

这节到这。学到这卡住了、或想拿它动手却不知从哪下手?进答疑群问我——每天固定时段我在群里答你的问题(每群限 80 · ¥99 一次性)