AI正在钻进你的口袋

AI正在钻进你的口袋

这两年，每隔几周就有一条新闻炸出来，某某公司发布了新的大模型，参数量又创纪录，又有多少万亿token的训练数据，又需要多少张H100才能跑起来。

我跟大多数人一样，一直盯着那个方向看。更大、更强、更贵。我潜意识里觉得AI的未来就应该是那个样子，巨大的数据中心，成排的机柜，几千万美元的训练成本，然后你通过网络去访问它、使用它，像水龙头一样拧开就来。

直到这周我被一组数字打了一下。

一个叫PrismML的团队，把一个270亿参数的模型，压缩到了3.9GB。

3.9GB是什么概念？大概是一部高清电影的大小。一首无损音质的交响乐专辑可能都比它大。它能塞进iPhone 17 Pro的内存里，在手机上以每秒11个token的速度运行。

它在15项基准测试中保留了全精度模型90%的性能。数学、编程、多步推理、视觉理解、工具调用，全都能做。它有262K的上下文窗口，支持推测解码加速，支持Agent循环。这个东西不是手机上跑着玩的聊天小助手，它是一个真正能干活的智能体，只是恰好住在你口袋里。

同一天，Google在印度的I/O Connect上展示了另一件事。他们为Pixel 10专门做了一个叫Gemma 4 E2B的模型，20亿参数，原生跑在手机的TPU上，支持文本、图像和音频输入，能完全离线工作。所有数据处理都在设备本地完成，不需要把任何东西传到云端。

再往前一天，腾讯混元团队把他们295亿参数的旗舰模型Hy3做了1-bit量化，从原来598GB压到了85.5GB，单张96GB显卡就能部署。面壁智能的CTO曾国洋在一次采访里说，他们的BitCPM-CANN模型系列可以在同一块内存里多装大约6倍的模型。

你把这四条新闻放在一起看。

PrismML的Bonsai，Google的Gemma，腾讯的混元量化，面壁智能的BitCPM。四个完全独立的团队，在同一周里各自干了同一件事，把大模型往小了做、往近了放。没有人喊口号，没有人发联合声明，它们只是各自沿着自己的技术路径走，然后在这个时间点上撞到了一起。

四条独立的河流在同一个路口汇合。这是地形在说话。

什么地形？

去年年底，清华大学联合面壁智能在Nature Machine Intelligence上发了一篇封面论文，提出了一个叫「密度法则」的东西。他们回测了过去两年51个主流开源大模型，发现了一条规律，大模型的智能密度，也就是单位参数所承载的能力，每3.5个月翻一番。

每3.5个月翻一番。

你把这条曲线延伸出去想想看。今天一个27B参数模型的能力，三个半月后可以用13B实现，再过三个半月可以用6B实现。说得再直白一点，今天需要在云端跑的活，一年后大概率可以在你的手机本地完成。

这条曲线比摩尔定律陡峭5倍。芯片那条路走了60年，智能密度这条路正在以5倍速度狂飙。

我之所以觉得这件事重要到值得认真聊一聊，是因为它指向一个架构层面的变化。过去两年我们默认的AI使用方式是这样的，你把问题发到云端，云端的大模型算完再把结果传回来。你的每一次提问、每一段对话、每一张照片的分析，都在别人的服务器上发生。你跟AI之间隔着一根网线，而那根网线的另一头，是某家公司的数据中心。

这个架构有几个内置的问题。

隐私。你的每一句话都经过别人的服务器。你跟AI聊工作、聊身体状况、聊私事，这些数据在物理上存在于你不可控的地方。大部分人假装不在意，但心里其实不太舒服。

延迟。即使网速再快，云端往返也有物理极限。当AI要实时理解你的摄像头画面、实时听你说话并回应、实时帮你在手机上执行操作时，每一毫秒的网络延迟都是体验的敌人。

成本。你每发一条消息给GPT-5.6，OpenAI都在烧GPU。这个成本最终会转嫁到你身上，要么是20美元的月费，要么是API按token计费。只要模型跑在别人的机器上，你使用AI的自由度就永远受制于别人的商业模型。

可用性。没网就没AI。飞机上、地铁里、信号差的地方，你跟AI的连接直接断掉。

当模型小到能住在你的手机里，这四个问题同时消失。

你的数据永远不出设备。延迟等于零。使用AI的边际成本等于零，你已经为手机买了单，模型就跑在你已经拥有的硬件上。而且它永远在线，不管你有没有网络。

这是AI使用方式的一次结构性翻转。你不再需要去找AI，AI直接住在你身边。

我突然想到一个历史类比。

1960年代，计算是什么样子的？你带着打好的穿孔卡片，排队走进计算中心，把卡片交给操作员，然后回去等结果。计算资源集中在少数地方，你必须「去」使用它。

然后个人电脑出现了。计算搬到了你的桌上。再然后智能手机出现了，计算搬到了你的口袋里。每一次这种搬迁发生，人和技术的关系都被彻底重写了。个人电脑催生了软件产业，智能手机催生了移动互联网。当技术从远处搬到触手可及的地方，人们使用它的频率、方式和想象力会发生爆发式的变化。

AI正在经历同样的搬迁。从远处的数据中心，搬到你每天带在身上的那块玻璃和金属里面。

我再算一笔账。

现在的云端AI服务，最顶级的模型大概是每百万输入token 10美元左右的价格。假设一个重度用户一天跟AI交互一万个token，一年下来大概是40美元。看起来不贵对吧？可如果是十亿人每天用呢？那是一年400亿美元的推理成本。这些钱需要建数据中心、买GPU、付电费，最终由用户或广告主承担。

而如果模型跑在设备上呢？边际成本是你已经花掉的那笔手机钱里的一部分。Apple的芯片每年都在进步，但你不需要为AI额外付费。Google的Tensor芯片里内置了TPU，你用手机做AI推理不会多花一分钱。当智能的代价被摊进你已经会买的设备里，AI的使用频率就没有了上限。

免费是最好的定价策略。而端侧AI的使用成本对用户来说就是免费的。

这会带来什么？

我觉得最先被改变的，是AI的使用场景变得极其碎片化和高频化。

今天你打开ChatGPT，通常是带着一个明确的问题或任务去的。你会想一想要不要用，因为每次使用有一个隐形的「启动成本」，打开App、等待响应、组织语言。这就像早年打长途电话，你会先想好要说什么再拨号。

但当AI就在你手机本地，延迟为零，成本为零，隐私无忧的时候。你会像发微信一样随时跟它交流。看到一个路牌看不懂，举起手机问一句。读到一段英文论文卡壳了，直接拍下来。做饭时想不起来某个配料的替代品，随口一问。你不再「使用AI」，AI变成了你思维的一个实时延伸。

当技术从「要专门去用」变成「随时在旁边」，使用频率会爆炸。

然后是更大的想象空间。

当AI常驻你的设备，它可以持续地观察你的习惯、学习你的偏好、记住你的上下文。不需要每次重新解释你是谁、你在做什么项目、你喜欢什么风格。它变成一个真正了解你的个人助手，而不是一个每次都要重新认识你的陌生人。

面壁智能的刘知远教授在一次访谈里说了一句话，我觉得特别到位，「未来的智能是分布式的，每个人都有一个属于自己的智能体。如果模型具备自主学习能力，终端上的模型就能基于用户的个人数据持续成长，最终形成一个个人大模型。」

你的AI不再是租来的，是长在你自己设备上的。它跟你相处越久，就越懂你。而这一切发生在本地，你的数据哪儿也不去。

当然，我不想过于乐观。

端侧模型现在确实有明显的天花板。3.9GB的1-bit模型保留了90%的性能，但那10%的损失在某些场景下可能是致命的。复杂的多步推理、超长文本理解、需要调用海量知识的任务，本地模型跟云端旗舰还是有肉眼可见的差距。

而且「密度法则」虽然过去两年趋势惊人，但它是一条经验观察的曲线，不是物理定律。没有人能保证它会一直以这个斜率延续下去。也许到某个节点会遇到信息论的极限，你不可能把无限的知识压进有限的参数里。

更现实的问题是功耗。你手机的芯片再强，跑一个本地模型也意味着电池消耗更快、其它App可用资源更少。当AI要实时跑在后台，持续地听和看和想的时候，电池可能是一个比内存更硬的瓶颈。

所以未来大概率不是纯端侧取代云端，而是一种混合架构。简单的、高频的、隐私敏感的事在本地做，复杂的、低频的、需要顶级能力的事继续上云。这跟今天手机和电脑的关系很像，你不会在手机上剪4K视频，但你在手机上处理了99%的日常计算任务。

你口袋里的模型处理99%的日常智能需求，只有少数硬骨头才需要呼叫云端。

回到开头。

大部分人对AI的理解，还停留在「一个很聪明的网站」的阶段。你去访问它，它给你答案，然后你离开。像图书馆。

但图书馆模式不是终态。电话最早也像图书馆，你去邮局打长途。后来每家一部座机。再后来人手一部手机，电话变成了身体的一部分。计算也是一样，从计算中心到个人电脑到手机。

技术跟人的终态，永远是从「你去找它」变成「它在你身边」。

这一周发生的事情告诉我，AI的这次搬迁已经不是远景规划了。它正在发生。四五家互不相干的团队同时在做同一件事。当一件事从一个团队的愿景变成整个行业的共识，距离它真正落地通常就只剩工程时间了。

我有时候觉得，我们可能是最后一代需要「打开一个App去使用AI」的人。就像我们是最后一代记得要拨号上网的人。

下一代人不会「使用AI」。他们会呼吸在AI里，就像我们呼吸在网络里一样。而那个转折点的起始，就是此刻，就是AI开始钻进你口袋的这个星期。

谢谢你看我的文章，我们，下次再见。

/ 作者：青玉白露