Staff Software Engineer, AI Inference

Vaga não está no LinkedIn

🕒 Julho 29

🇺🇸 Estados Unidos – Remoto (EUA)

💵 $190.000 - $230.000 / ano

⏰ Tempo Integral

🔴 Especialista

🤖 Engenheiro de IA

👻 Score fantasma 8%

O que significa: quão provável esta vaga está aberta sem contratação ativa.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

Syllo

SiteLinkedInTodas as Vagas

51 - 200 funcionários

Fundada em 2019

⚖️ Jurídico

🤖 Inteligência Artificial

☁️ SaaS

🔥 Investimento no último ano

💰 $30.000.000 Venture Round - Syllo em 2025-10

Legal • Artificial Intelligence • SaaS

A Syllo é uma empresa de IA para Litígios que oferece uma plataforma unificada para gerenciar litígios complexos de ponta a ponta. Seu software combina gestão de casos, eDiscovery, pesquisa jurídica, análise, elaboração e marcação de questões para ajudar equipes internas e escritórios de advocacia a dominar os registros, aplicar códigos de questões em larga escala e acelerar a estratégia e o fluxo de trabalho ao longo das descobertas escritas, depoimentos e trabalhos prévios ao julgamento. A Syllo se posiciona como um espaço de trabalho colaborativo habilitado por IA, focado em litígios comerciais de alto risco.

Descrição

• Lead the design and development of our production inference platform. • Define the technical roadmap for inference infrastructure, model serving, and runtime optimization. • Build and operate scalable, cost-effective systems for serving large language models in production. • Evaluate and integrate modern inference technologies, frameworks, and serving runtimes. • Optimize latency, throughput, GPU utilization, memory efficiency, and infrastructure cost. • Develop systems for model deployment, traffic routing, autoscaling, scheduling, observability, and operational excellence. • Partner with ML engineers to productionize new models and inference techniques. • Establish benchmarking methodologies to evaluate new models, runtimes, and hardware. • Make key architectural decisions around when to build internally versus leverage open-source or commercial solutions. • Mentor engineers as the team grows and help establish engineering best practices for AI infrastructure.

🎯 Requisitos

• Significant experience designing and operating production AI inference systems. • Experience building or leading production LLM serving infrastructure. • Deep experience with one or more modern inference runtimes and frameworks such as vLLM, SGLang, TensorRT-LLM, Triton Inference Server, Hugging Face TGI, NVIDIA Dynamo, or comparable technologies. • Strong background in distributed systems, backend infrastructure, or high-performance platform engineering. • Experience optimizing inference performance across GPU workloads, including latency, throughput, batching, memory utilization, and serving efficiency. • Experience operating GPU infrastructure in production. • Strong proficiency in Python and at least one systems programming language (such as Go, Rust, or C++). • Proven ability to lead technical architecture for complex infrastructure initiatives. • Excellent communication skills and the ability to influence technical direction across engineering teams.

🏖️ Benefícios

• Health insurance