DeepSeek가 프로덕션에서 DeepSeek-V4.1-Flash를 서빙하는 Apache 2.0 추론 프레임워크인 DeepInfer를 오픈소스로 공개했습니다. 이는 NVIDIA SM100 GPU와 Huawei Ascend 950 NPU를 대상으로 하며, 오프라인 추론만 제공합니다. DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash 글은 MarkTechPost 에 처음 게재되었습니다.
news
DeepSeek, DeepSeek-V4.1-Flash의 기반 추론 프레임워크인 DeepInfer를 오픈소스로 공개
DeepSeek가 프로덕션에서 DeepSeek-V4.1-Flash를 서빙하는 Apache 2.0 추론 프레임워크인 DeepInfer를 오픈소스로 공개했습니다. 이 프레임워크는 NVIDIA SM100 GPU와 Huawei Ascend 950 NPU를 대상으로 하며, 오프라인 추론만 제공합니다. DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash 글은 MarkTechPost 에 처음 게재되었습니다.