字节豆包大模型团队提出稀疏模型架构,推理成本最高可降低 83%
2 月 12 日

字节跳动豆包大模型 Foundation 团队提出 UltraMem,一种稀疏模型架构,有效解决 MoE 推理时的访存问题,推理速度提升 2-6 倍,成本最高降低 83%。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟