DeepSeek 宣布开源其自研推理引擎,但不会直接开放内部完整代码库,而是通过与现有开源项目如 vLLM 合作,分享核心优化成果。此举旨在解决代码库分歧、基础设施依赖和维护资源有限等问题。DeepSeek 将提取可复用特性并贡献优化细节,以提升社区项目的性能。此前,vLLM 吸收 DeepSeek 的部分优化后性能已显著提升,未来双方将继续协作,确保新模型发布时社区能获得最先进的推理支持。
行业标签
更多体验
前往小程序
24 小时
资讯推送
进群体验