LiteLLM

AI Gateway thống nhất 100+ LLM providers — cost tracking, load balancing, unified API

Gateway/proxy thống nhất truy cập 100+ LLM providers (39K+ ⭐). Gọi OpenAI, Anthropic, Google, Azure, AWS Bedrock, Ollama... qua cùng một API format. Tích hợp cost tracking theo từng request, load b...