英伟达开源发布 PAIR:本地跑 AI 新方案,调度 Mac / RTX PC 跨设备推理
上周五
英伟达推出开源测试版 Personal AI Router(PAIR)软件,可在局域网内为本地 AI 请求调度空闲设备,兼容 M4 及以上 Mac 设备、英伟达 RTX PC 和 DGX Spark 设备,为 Ollama、LM Studio 等本地 AI 工具提供统一请求入口。该软件能自动发现设备、分配请求,模型仍由目标设备上的工具运行,无需为每款 AI 应用单独配置每台机器。设备繁忙或不可用时可转派请求,用于并发负载分担,单个 AI 回复不会因设备增多自动变快。经演示,多设备协作可缩短多任务处理时长。
英伟达开源 PAIR 软件:局域网内跨设备调度 助力本地 AI 高效处理请求
ITBear 科技资讯
英伟达开源 PAIR 软件:局域网内调度 AI 算力,让多设备协同处理更高效
ITBear 科技资讯
英伟达开源 PAIR:把局域网里的 Mac 和 RTX PC 变成一支 AI 算力小队
aibase / ITBear 科技资讯
体验专业版特色功能,拓展更丰富、更全面的相关内容。