DeepSeek đã mã nguồn mở DeepInfer, khung suy luận Apache 2.0 phục vụ DeepSeek-V4.1-Flash trong môi trường production. Nó nhắm tới GPU NVIDIA SM100 và NPU Huawei Ascend 950, và chỉ cung cấp suy luận ngoại tuyến. Bài viết DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash xuất hiện đầu tiên trên MarkTechPost .
news
DeepSeek mã nguồn mở DeepInfer, khung suy luận đằng sau DeepSeek-V4.1-Flash
DeepSeek đã mã nguồn mở DeepInfer, khung suy luận Apache 2.0 phục vụ DeepSeek-V4.1-Flash trong môi trường production. Nó nhắm tới GPU NVIDIA SM100 và NPU Huawei Ascend 950, và chỉ cung cấp suy luận ngoại tuyến. Bài viết DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash xuất hiện đầu tiên trên MarkTechPost .