Readhub

周三美股存储板块全线走弱，美光科技「5 连跌」，闪迪等同步下跌，市场将此异动归因于谷歌此前发布的新型内存压缩算法 TurboQuant。该技术瞄准大语言模型与向量搜索引擎内存占用痛点，可将 KV 缓存压缩至 3bit 精度且基本不影响准确率，对开源模型有约 6 倍的 KV 缓存内存压缩效果，在英伟达 H100 加速器上最高能实现 8 倍性能提升，应用场景可延伸至向量检索领域，谷歌计划 4 月正式展示。虽技术落地前景未知，但市场已提前交易 AI 内存需求前景转变预期，分析师称该技术若广泛应用，市场将重新评估 AI 所需内存容量规模，不过其推广和落地仍存在较大不确定性。