DeepSeek 公布推理引擎开源路径,承诺将核心优化注入 vLLM 生态
4 月 16 日

DeepSeek 宣布开源其自研推理引擎,但不会直接开放内部完整代码库,而是通过与现有开源项目如 vLLM 合作,分享核心优化成果。此举旨在解决代码库分歧、基础设施依赖和维护资源有限等问题。DeepSeek 将提取可复用特性并贡献优化细节,以提升社区项目的性能。此前,vLLM 吸收 DeepSeek 的部分优化后性能已显著提升,未来双方将继续协作,确保新模型发布时社区能获得最先进的推理支持。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟