工具詳情

Lumabri

github.com

純 C 私有推論服務:把大型模型分散到自己的多台電腦與伺服器上執行。

月造訪量暫無
全球排名暫無
收錄時間2026年10月23日
價格類型開源

工具介紹

Lumabri

github.com

Lumabri(Apache-2.0)基於 Colibri 引擎,在區網內多台電腦間建立私有推論服務;每個節點只載入分配到的層,單機放不下的模型也能分攤。可用終端介面或內建網頁對話。

價格類型開源
評分暫無
收藏數0

標籤

所屬分類

目前還沒有精簡摘要。

open-sourceself-hostedclocal-llmdistributed-inferencecolibri

FAQ

常見問題

Lumabri 是什麼?
Lumabri(Apache-2.0)基於 Colibri 引擎,在區網內多台電腦間建立私有推論服務;每個節點只載入分配到的層,單機放不下的模型也能分攤。可用終端介面或內建網頁對話。
Lumabri 收費嗎?
Lumabri 的定價模式是開源,具體方案請以官網為準。
Lumabri 可以用來做什麼?
Lumabri 在 TolsAI 上歸入以下分類:人工智慧開發工具和大型語言模型 (LLM)。
在哪裡可以使用 Lumabri?
可以在 Lumabri 的官網 github.com 使用。

探索

人工智慧開發工具 的更多工具

you.bot人工智慧代理

you.bot:相同的 AI 模型最多可節省 46%。 you.bot 是一個適用於 70 多個 LLM、影象、影片和音樂模型的 API — Claude、GPT、Gemini、Kling、Seedance、Veo、GPT Image 2、Nano Banana Pro、Suno 等 —

未提供價格
Corrath人工智慧應用程式介面

Corrath:Corrath 是適用於現代人工智慧應用的人工智慧安全閘道器。它位於您的應用程式和 AI 提供商之間,用於保護 API 金鑰、阻止提示注入、控制支出、監控使用情況、檢測

未提供價格
Graphify人工智慧開發工具

將程式碼庫及其文件、SQL 結構、設定與 PDF 轉為可查詢的知識圖譜。

開源github
Cloudflare Security Audit Skill人工智慧程式碼審查

Cloudflare 推出的程式代理技能,執行多階段安全稽核並輸出經驗證、機器可讀的結果。

開源github
vLLM人工智慧開發工具

高吞吐、省記憶體的大型語言模型推論與服務引擎。

開源github
KiviDB人工智慧開發工具

以 Rust 撰寫、相容 Redis/Valkey 的記憶體資料庫,內建全文與向量搜尋。

開源github

討論

討論

目前還沒有留言,來開啟討論吧。