面壁智能发布基于稀疏-线性混合架构 SALA 训练 9B 模型
周四

面壁智能正式发布稀疏-线性注意力混合架构 SALA 及基于该架构的文本模型 MiniCPM-SALA,模型仅 9B 参数。MiniCPM-SALA 不使用投机采样等加速算法,在云端推理芯片上,序列长度为 256K 词元时推理速度达 Qwen3-8B 的 3.5 倍,且支持在云端芯片和消费级端侧 GPU 上进行高达一百万词元上下文长度的推理。

链接
面壁智能发布基于稀疏-线性混合架构 SALA 训练 9B 模型
华尔街见闻 / 界面 / 格隆汇 / 36Kr / 钛媒体 / 和讯网
专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟