工具介绍
Lumabri
Lumabri（Apache-2.0）基于 Colibri 引擎，在你自己的多台电脑之间搭建私有推理服务。你可以选择模型、指定局域网里哪些电脑参与，并批准各自的内存用量；每个工作节点只加载分配给它的那几层权重，因此单机放不下的模型也能分摊运行。可以在终端界面或自带网页里聊天。控制器、终端界面和推理集成均用 C 编写。README 说明：增加电脑能扩充可用内存和容量，但不保证每个对话的生成速度更快。
价格类型开源
评分暂无
收藏数0
标签
所属分类
暂时还没有精简摘要。
FAQ
常见问题
- Lumabri 是什么？
- Lumabri（Apache-2.0）基于 Colibri 引擎，在你自己的多台电脑之间搭建私有推理服务。你可以选择模型、指定局域网里哪些电脑参与，并批准各自的内存用量；每个工作节点只加载分配给它的那几层权重，因此单机放不下的模型也能分摊运行。可以在终端界面或自带网页里聊天。控制器、终端界面和推理集成均用 C 编写。README 说明：增加电脑能扩充可用内存和容量，但不保证每个对话的生成速度更快。
- Lumabri 收费吗？
- Lumabri 的定价模式是开源，具体套餐请以官网为准。
- Lumabri 可以用来做什么？
- Lumabri 在 TolsAI 上归入以下分类：人工智能开发工具和大型语言模型 (LLM)。
- 在哪里可以使用 Lumabri？
- 可以在 Lumabri 的官网 github.com 使用。
探索
人工智能开发工具 下更多工具
you.bot：相同的 AI 模型最多可节省 46%。 you.bot 是一个适用于 70 多个 LLM、图像、视频和音乐模型的 API — Claude、GPT、Gemini、Kling、Seedance、Veo、GPT Image 2、Nano Banana Pro、Suno 等 —
Corrath：Corrath 是适用于现代人工智能应用的人工智能安全网关。它位于您的应用程序和 AI 提供商之间，用于保护 API 密钥、阻止提示注入、控制支出、监控使用情况、检测
把代码库及其文档、SQL 结构、配置和 PDF 转成可查询的知识图谱，供编程智能体使用。
Cloudflare 出品的编程智能体技能，执行多阶段安全审计，输出经独立验证、机器可读的结果。
高吞吐、省显存的大模型推理与服务引擎。
Rust 编写、兼容 Redis/Valkey 的内存数据库，内置全文与向量检索。
讨论
讨论
登录后参与讨论
暂无评论，来开启讨论吧。