DeepSeek 已开源 DeepInfer，这是在生产环境中为 DeepSeek-V4.1-Flash 提供服务的 Apache 2.0 推理框架。它面向 NVIDIA SM100 GPU 和华为昇腾 950 NPU，并且仅提供离线推理。文章《DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash》首次发布于 MarkTechPost。
news
DeepSeek开源DeepInfer，DeepSeek-V4.1-Flash背后的推理框架
DeepSeek已开源DeepInfer，这是在生产环境中为DeepSeek-V4.1-Flash提供服务的Apache 2.0推理框架。它面向NVIDIA SM100 GPU和华为昇腾950 NPU，并且仅提供离线推理。《DeepSeek开源DeepInfer：DeepSeek-V4.1-Flash背后的推理框架》一文首发于MarkTechPost。