Vagas Remotas na LiteLLM AI Gateway

LiteLLM AI Gateway

11 - 50 funcionários

Fundada em 2023

🤖 Inteligência Artificial

🔌 API

🏢 Corporativo

💰 Seed em 2023-07

Artificial Intelligence • API • Enterprise

O LiteLLM AI Gateway é um produto de gateway autogerenciado e isolado que centraliza e controla o acesso a modelos de linguagem de grande porte, agentes e plataformas de controle de modelos para equipes de plataforma. Oferece uma única API compatível com OpenAI e login único (SSO) para direcionar solicitações a mais de 140 provedores e 1. 800 modelos, gerenciar chaves e gerenciadores de segredo, aplicar governança, observar e otimizar custos e uso, além de permitir a troca de modelos de back-end sem alterações no código. O produto enfatiza características empresariais como controles de acesso, roteamento, observabilidade, limites de custo e suporte imediato para novos modelos, possibilitando que organizações integrem modelos internos, ajustados e autogerenciados em uma só chave.