Perfil da ferramenta
zhongkaifu/TensorSharp
github.com
Um mecanismo de inferência .NET e runtime de agente para executar modelos GGUF LLM locais com backends de GPU.
O que faz
zhongkaifu/TensorSharp
TensorSharp é um mecanismo de inferência .NET e runtime de agentes para modelos GGUF locais, oferecendo uma CLI, chat no navegador, aplicativo para iPhone e APIs compatíveis com Ollama/OpenAI. Ele suporta texto, entrada multimodal, embeddings, geração de imagens e vídeos, coleções de conhecimento pessoal e habilidades de agentes, executando em kernels C# gerenciados de CPU ou backends nativos CUDA, Metal e Vulkan em Windows, macOS, iOS e Linux. É escrito em C# e destinado a desenvolvedores que desejam incorporar ou servir modelos locais em aplicações .NET.
Tags
Categorias
Um resumo ainda não foi adicionado.
FAQ
Perguntas frequentes
- O que é zhongkaifu/TensorSharp?
- TensorSharp é um mecanismo de inferência .NET e runtime de agentes para modelos GGUF locais, oferecendo uma CLI, chat no navegador, aplicativo para iPhone e APIs compatíveis com Ollama/OpenAI. Ele suporta texto, entrada multimodal, embeddings, geração de imagens e vídeos, coleções de conhecimento pessoal e habilidades de agentes, executando em kernels C# gerenciados de CPU ou backends nativos CUDA, Metal e Vulkan em Windows, macOS, iOS e Linux. É escrito em C# e destinado a desenvolvedores que desejam incorporar ou servir modelos locais em aplicações .NET.
- Quanto custa zhongkaifu/TensorSharp?
- zhongkaifu/TensorSharp usa o modelo de preço: Código aberto. Confira os planos atuais no site oficial.
- Para que serve zhongkaifu/TensorSharp?
- zhongkaifu/TensorSharp está listado no TolsAI nestas categorias: Código Aberto.
- Onde posso usar zhongkaifu/TensorSharp?
- zhongkaifu/TensorSharp está disponível no site oficial, github.com.
Explorar
Mais em Código Aberto
Um harness agêntico de código aberto para um agente de IA autoaperfeiçoável que planeja e executa tarefas que você descreve.
Um mecanismo de RAG baseado em raciocínio, sem vetores, que indexa documentos como árvores e recupera com raciocínio de LLM.
Uma biblioteca Python semelhante ao PyTorch para construir e otimizar automaticamente fluxos de trabalho de LLM, como chatbots, RAG e agentes.
Uma interface web modular para gerar imagens, vídeo e áudio com modelos de IA como Stable Diffusion, Flux e Wan.
Um guia passo a passo para projetar sistemas de IA construídos sobre LLMs, RAG e agentes de IA.
Mecanismo de pipeline de IA de código aberto para criar, depurar e implantar fluxos de trabalho de LLM e orquestração de agentes a partir da sua IDE.
Discussão
Discussão
Entre para participar da discussão
Nenhum comentário ainda. Comece a discussão.