Google 最近推出的 TurboQuant （https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/）是一种革命性的 AI 压缩技术，能把大语言模型需要的内存压缩到原来的六分之一，而且不损失任何精度。这就像把厚厚的羽绒服压缩成小包，需要时再展开，衣服还是那件衣服。

AI 模型在工作时需要用到“键值缓存”（KV cache），这是一个存储常用信息的速查手册。但这个手册越来越厚，很快就把内存占满了。传统压缩方法就像用橡皮筋捆书——能省空间，但橡皮筋本身也占地方。TurboQuant 的聪明之处在于找到了几乎不占额外空间的压缩方法。

它分两步实现：第一步 PolarQuant 把数据从“东西南北”坐标系转换成“角度和距离”坐标系，压缩起来更容易；第二步 QJL 用一个超级精简的方法（只用 1 比特）修正压缩后的小误差。在测试中，TurboQuant 把内存占用减少到六分之一，速度还快了 8 倍。

这项技术的意义深远。它让本地部署大模型成为可能——原本需要 6 张显卡的模型，现在 1 张就够了。刚发布的 Gemma 4 就能在单张 GPU、笔记本甚至手机上运行，背后就有 TurboQuant 的功劳。对开发者来说，可以在笔记本上开发 AI 应用，不需要昂贵的云服务器。对普通用户来说，意味着 AI 会变得更快、更便宜、更普及，而且完全在本地运行，保护隐私。

TurboQuant 代表了 AI 发展的重要方向：不是一味追求更大的模型，而是通过更聪明的算法，让现有硬件发挥更大潜力。这场“压缩革命”才刚刚开始。