LLM Ops Engineer

🕒 Julho 9

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

Cashea

SiteLinkedInTodas as Vagas

501 - 1000 funcionários

Fundada em 2022

💳 Fintech

🛍️ Comércio Eletrônico

👥 B2C

💰 $750.000 Seed Round - Cashea em 2025-03

Fintech • eCommerce • B2C

A Cashea é uma fintech venezuelana de 'compre agora, pague depois', que oferece uma linha de pagamento baseada em aplicativo, permitindo que os consumidores comprem em comerciantes parceiros e paguem em parcelas agendadas, sem juros. A plataforma aprova rapidamente linhas de crédito pré-aprovadas, suporta pagamentos tanto em lojas físicas quanto online em milhares de varejistas parceiros e inclui um programa de fidelidade para recompensar o uso responsável. A Cashea foca no financiamento ao consumidor para compras diárias e de maior valor, ao mesmo tempo em que integra comerciantes para aceitar pagamentos flexíveis em parcelas.

Descrição

• Diseñar, construir y operar una gateway de LLMs que ofrezca una interfaz unificada sobre múltiples proveedores • Implementar enrutamiento de modelos, fallbacks , reintentos, balanceo y selección dinámica de proveedor/modelo por caso de uso • Gestionar credenciales y claves de proveedores de forma segura (rotación, secrets management) • Implementar caching (incluido semantic caching ) para reducir costos y latencia • Construir y operar una gateway de MCP para exponer, descubrir y gobernar el acceso a servidores y herramientas MCP • Definir controles de acceso por herramienta/servidor (qué app o equipo puede invocar qué) • Auditar y registrar el uso de herramientas MCP, con trazabilidad de extremo a extremo • Implementar guardrails , filtrado de contenido y defensas contra prompt injection y fuga de datos • Implementar redacción/enmascaramiento de datos sensibles (PII) en prompts , respuestas y logs • Definir y aplicar políticas de acceso (RBAC), cuotas y límites de uso por equipo, app o usuario • Mantener registros de auditoría y apoyar requisitos de cumplimiento y privacidad • Implementar atribución de costos por equipo/app/feature y presupuestos con alertas • Construir observabilidad para IA: tracing , métricas de latencia, costo, uso y calidad • Establecer dashboards y alertas sobre consumo, errores y degradación de proveedores • Definir SLAs/SLOs para la plataforma de IA y planes de respuesta ante incidentes (incluida la caída de un proveedor) • Apoyar a los equipos de producto e ingeniería en la integración con la gateway

🎯 Requisitos

• Experiencia sólida en Python (o lenguaje similar de backend) construyendo servicios/APIs en producción • Experiencia diseñando y operando API gateways, proxies o capas de middleware a escala • Experiencia con contenedores y orquestación : Docker y Kubernetes • Experiencia con al menos una nube (AWS, GCP o Azure) • Experiencia integrando APIs de proveedores de LLMs (OpenAI, Anthropic u otros) • Sólidos fundamentos de seguridad : gestión de secretos, autenticación/autorización (RBAC, OAuth), manejo de datos sensibles (PII) • Mentalidad de plataforma: construir abstracciones que otros equipos consumen de forma confiable • Comprensión de los retos propios de los LLMs: latencia, costos variables, no-determinismo y necesidad de observabilidad

🏖️ Benefícios

• Oportunidades de desarrollo profesional • Cultura de trabajo basada en la confianza y el propósito • Espacio para la creatividad y curiosidad