概要
openvinotoolkit/model_server
OpenVINO Model Serverは、標準的なネットワークAPIを通じてMLモデルを公開する本番グレードのC++推論サーバーです。LLM、埋め込み、画像生成、音声向けのOpenAI互換APIに加え、クラシックモデル向けのKServe APIを備えています。Intel CPU、GPU、NPUハードウェア上で生成AI、エージェント型およびクラシックな深層学習ワークロードを展開するチームを対象としており、Docker、ベアメタル、Kubernetes、Windows経由で実行できます。OpenVINOツールキットからオープンソースとして提供されています。
料金オープンソース
評価未設定
保存数0
タグ
カテゴリ
要約はまだ追加されていません。
FAQ
よくある質問
- openvinotoolkit/model_server とは？
- OpenVINO Model Serverは、標準的なネットワークAPIを通じてMLモデルを公開する本番グレードのC++推論サーバーです。LLM、埋め込み、画像生成、音声向けのOpenAI互換APIに加え、クラシックモデル向けのKServe APIを備えています。Intel CPU、GPU、NPUハードウェア上で生成AI、エージェント型およびクラシックな深層学習ワークロードを展開するチームを対象としており、Docker、ベアメタル、Kubernetes、Windows経由で実行できます。OpenVINOツールキットからオープンソースとして提供されています。
- openvinotoolkit/model_server の料金は？
- openvinotoolkit/model_server の料金体系は「オープンソース」です。最新のプランは公式サイトでご確認ください。
- openvinotoolkit/model_server は何に使えますか？
- openvinotoolkit/model_server は TolsAI で次のカテゴリに掲載されています：オープンソース。
- openvinotoolkit/model_server はどこで使えますか？
- openvinotoolkit/model_server は公式サイト github.com で利用できます。
探索
オープンソースのその他のツール
あなたが説明するタスクを計画して実行する、自己改善型AIエージェントのためのオープンソースのエージェント型ハーネス。
ベクトルを使わない推論ベースのRAGエンジンで、文書をツリーとしてインデックス化し、LLMの推論で検索します。
チャットボット、RAG、エージェントなどのLLMワークフローを構築し自動最適化するためのPyTorchライクなPythonライブラリ。
Stable Diffusion、Flux、WanなどのAIモデルで画像、動画、音声を生成するためのモジュラーWeb UI。
LLM、RAG、AIエージェントを基盤とするAIシステムを設計するためのステップバイステップガイド。
IDEからLLMワークフローとエージェントオーケストレーションを構築、デバッグ、デプロイするためのオープンソースAIパイプラインエンジン。
ディスカッション
ディスカッション
ログインして参加
まだコメントはありません。最初の一言をどうぞ。