跳到正文
开源中国 · 最新资讯·· 3 小时前精选AI 评分65

DeepSeek 开源推理框架 DeepInfer

DeepSeek 开源推理框架 DeepInfer:服务链路的最后一块拼图

AI 导读

DeepSeek 开源了推理框架 DeepInfer,这次开源的并非模型,而是负责统筹调度算力集群的中间层。该框架的效率直接决定 AI 服务的算力成本,正文称其为服务链路的最后一块拼图。

推荐理由

DeepSeek 把决定算力成本的推理中间层开源,读者可了解这一层在服务链路中的位置。

来源:开源中国 · 最新资讯 · oschina.net