Fiche outil
zhongkaifu/TensorSharp
github.com
Un moteur d'inférence .NET et un runtime d'agent pour exécuter des modèles LLM GGUF locaux avec des backends GPU.
Ce qu'il fait
zhongkaifu/TensorSharp
TensorSharp est un moteur d'inférence .NET et un runtime d'agent pour les modèles GGUF locaux, offrant une CLI, un chat dans le navigateur, une application iPhone et des API compatibles Ollama/OpenAI. Il prend en charge le texte, les entrées multimodales, les embeddings, la génération d'images et de vidéos, les collections de connaissances personnelles et les compétences d'agent, fonctionnant sur des kernels CPU C# managés ou des backends natifs CUDA, Metal et Vulkan sous Windows, macOS, iOS et Linux. Il est écrit en C# et destiné aux développeurs qui souhaitent intégrer ou servir des modèles locaux dans des applications .NET.
Tags
Catégories
Aucun résumé n'a encore été ajouté.
FAQ
Questions fréquentes
- Qu’est-ce que zhongkaifu/TensorSharp ?
- TensorSharp est un moteur d'inférence .NET et un runtime d'agent pour les modèles GGUF locaux, offrant une CLI, un chat dans le navigateur, une application iPhone et des API compatibles Ollama/OpenAI. Il prend en charge le texte, les entrées multimodales, les embeddings, la génération d'images et de vidéos, les collections de connaissances personnelles et les compétences d'agent, fonctionnant sur des kernels CPU C# managés ou des backends natifs CUDA, Metal et Vulkan sous Windows, macOS, iOS et Linux. Il est écrit en C# et destiné aux développeurs qui souhaitent intégrer ou servir des modèles locaux dans des applications .NET.
- Combien coûte zhongkaifu/TensorSharp ?
- zhongkaifu/TensorSharp applique un modèle tarifaire : Open source. Consultez le site officiel pour les offres actuelles.
- À quoi sert zhongkaifu/TensorSharp ?
- zhongkaifu/TensorSharp est référencé sur TolsAI dans ces catégories : Open Source.
- Où utiliser zhongkaifu/TensorSharp ?
- zhongkaifu/TensorSharp est disponible sur son site officiel, github.com.
Explorer
Plus dans Open Source
Un harnais agentique open source pour un agent IA auto-améliorant qui planifie et exécute les tâches que vous décrivez.
Un moteur RAG sans vecteurs, basé sur le raisonnement, qui indexe les documents sous forme d'arbres et effectue la récupération avec le raisonnement d'un LLM.
Une bibliothèque Python de type PyTorch pour construire et auto-optimiser des workflows LLM tels que les chatbots, le RAG et les agents.
Une interface web modulaire pour générer des images, des vidéos et de l'audio avec des modèles d'IA comme Stable Diffusion, Flux et Wan.
Un guide étape par étape pour concevoir des systèmes d'IA basés sur les LLM, le RAG et les agents d'IA.
Moteur de pipeline d'IA open source pour créer, déboguer et déployer des workflows LLM et l'orchestration d'agents depuis votre IDE.
Discussion
Discussion
Connectez-vous pour participer à la discussion
Aucun commentaire pour le moment. Lancez la discussion.