LLM ゲートウェイは、Large Language Models (LLMs) のオープンソース API ゲートウェイです。アプリケーションとさまざまな LLM プロバイダーとの間のミドルウェアとして機能し、次の機能を提供します。 - OpenAI、Anthropic、Google AI Studio、他多数の LLM プロバイダーへのリクエストのルーティング - 一つの場所で異なるプロバイダーの API キーの管理 - 全ての LLM インタラクションでトークン使用量とコストの追跡 - パフォーマンス メトリクスの分析を通じて LLM の使用を最適化