news

DeepSeek mã nguồn mở DeepInfer, khung suy luận đằng sau DeepSeek-V4.1-Flash

DeepSeek đã mã nguồn mở DeepInfer, khung suy luận Apache 2.0 phục vụ DeepSeek-V4.1-Flash trong môi trường production. Nó nhắm tới GPU NVIDIA SM100 và NPU Huawei Ascend 950, và chỉ cung cấp suy luận ngoại tuyến. Bài viết DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash xuất hiện đầu tiên trên MarkTechPost .

20 thg 10, 202641 lượt xem

DeepSeek đã mã nguồn mở DeepInfer, khung suy luận Apache 2.0 phục vụ DeepSeek-V4.1-Flash trong môi trường production. Nó nhắm tới GPU NVIDIA SM100 và NPU Huawei Ascend 950, và chỉ cung cấp suy luận ngoại tuyến. Bài viết DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash xuất hiện đầu tiên trên MarkTechPost .

DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash | TolsAI