字节跳动豆包大模型 Foundation 团队提出 UltraMem,一种稀疏模型架构,有效解决 MoE 推理时的访存问题,推理速度提升 2-6 倍,成本最高降低 83%。
行业标签
更多体验
前往小程序
24 小时
资讯推送
进群体验