Hồ sơ công cụ
zhongkaifu/TensorSharp
github.com
Một công cụ suy luận .NET và môi trường chạy tác nhân để chạy các mô hình LLM GGUF cục bộ với các backend GPU.
Công dụng
zhongkaifu/TensorSharp
TensorSharp là một engine suy luận .NET và runtime tác nhân cho các mô hình GGUF cục bộ, cung cấp CLI, trò chuyện trên trình duyệt, ứng dụng iPhone và các API tương thích Ollama/OpenAI. Nó hỗ trợ văn bản, đầu vào đa phương thức, embeddings, tạo hình ảnh và video, bộ sưu tập kiến thức cá nhân và kỹ năng tác nhân, chạy trên các kernel CPU C# được quản lý hoặc các backend gốc CUDA, Metal và Vulkan trên Windows, macOS, iOS và Linux. Nó được viết bằng C# và hướng đến các nhà phát triển muốn nhúng hoặc phục vụ các mô hình cục bộ trong các ứng dụng .NET.
GiáMã nguồn mở
Đánh giáN/A
Lượt lưu0
Thẻ
Danh mục
Chưa có phần tóm tắt.
FAQ
Câu hỏi thường gặp
- zhongkaifu/TensorSharp là gì?
- TensorSharp là một engine suy luận .NET và runtime tác nhân cho các mô hình GGUF cục bộ, cung cấp CLI, trò chuyện trên trình duyệt, ứng dụng iPhone và các API tương thích Ollama/OpenAI. Nó hỗ trợ văn bản, đầu vào đa phương thức, embeddings, tạo hình ảnh và video, bộ sưu tập kiến thức cá nhân và kỹ năng tác nhân, chạy trên các kernel CPU C# được quản lý hoặc các backend gốc CUDA, Metal và Vulkan trên Windows, macOS, iOS và Linux. Nó được viết bằng C# và hướng đến các nhà phát triển muốn nhúng hoặc phục vụ các mô hình cục bộ trong các ứng dụng .NET.
- zhongkaifu/TensorSharp có giá bao nhiêu?
- zhongkaifu/TensorSharp áp dụng mô hình giá: Mã nguồn mở. Xem gói hiện tại trên trang web chính thức.
- zhongkaifu/TensorSharp dùng để làm gì?
- zhongkaifu/TensorSharp được xếp trên TolsAI vào các danh mục: Mã nguồn mở.
- Có thể dùng zhongkaifu/TensorSharp ở đâu?
- zhongkaifu/TensorSharp có trên trang web chính thức github.com.
Khám phá
Thêm trong Mã nguồn mở
Một bộ khung tác tử mã nguồn mở cho một AI agent tự cải thiện, có khả năng lập kế hoạch và thực thi các nhiệm vụ bạn mô tả.
Một công cụ RAG không dùng vector, dựa trên suy luận, lập chỉ mục tài liệu dưới dạng cây và truy xuất bằng suy luận LLM.
Một thư viện Python giống PyTorch để xây dựng và tự động tối ưu hóa các quy trình làm việc LLM như chatbot, RAG và agent.
Giao diện web mô-đun để tạo hình ảnh, video và âm thanh bằng các mô hình AI như Stable Diffusion, Flux và Wan.
Hướng dẫn từng bước để thiết kế các hệ thống AI được xây dựng trên LLM, RAG và AI agents.
Công cụ pipeline AI mã nguồn mở để xây dựng, gỡ lỗi và triển khai các quy trình LLM và điều phối tác nhân ngay từ IDE của bạn.
Thảo luận
Thảo luận
Đăng nhập để tham gia thảo luận
Chưa có bình luận. Hãy bắt đầu thảo luận.