Inferact
11 - 50 funcionários
Fundada em 2025
🤖 Inteligência Artificial
🤝 B2B
🏢 Corporativo
Artificial Intelligence • B2B • Enterprise
A Inferact é uma startup fundada pelos criadores e mantenedores principais do vLLM, o principal motor de inferência de LLM de código aberto. A empresa tem como objetivo acelerar o progresso da inteligência artificial, tornando a inferência de modelos mais barata e rápida, ampliando o desempenho do vLLM e o suporte para arquiteturas emergentes e hardware acelerador. A Inferact combina uma profunda experiência na interseção de modelos e hardware para fornecer infraestrutura de inferência utilizada por laboratórios de pesquisa, hyperscalers e startups, enquanto continua a desenvolver e contribuir com otimizações para a comunidade de código aberto.
Membro da Equipe Técnica, Generalista Excepcional (Remoto)
🕒 Março 18
🗣️🇺🇸🇬🇧 Inglês obrigatório
📊 Verifique sua pontuação de currículo para esta vaga
Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.
Inferact
11 - 50 funcionários
Fundada em 2025
🤖 Inteligência Artificial
🤝 B2B
🏢 Corporativo
Artificial Intelligence • B2B • Enterprise
A Inferact é uma startup fundada pelos criadores e mantenedores principais do vLLM, o principal motor de inferência de LLM de código aberto. A empresa tem como objetivo acelerar o progresso da inteligência artificial, tornando a inferência de modelos mais barata e rápida, ampliando o desempenho do vLLM e o suporte para arquiteturas emergentes e hardware acelerador. A Inferact combina uma profunda experiência na interseção de modelos e hardware para fornecer infraestrutura de inferência utilizada por laboratórios de pesquisa, hyperscalers e startups, enquanto continua a desenvolver e contribuir com otimizações para a comunidade de código aberto.
Descrição
• Esta é uma oportunidade remota global. • Buscamos engenheiros generalistas excepcionais que possam atuar em toda a pilha do vLLM: desde kernels de baixo nível para GPU até sistemas distribuídos de alto nível. • Esta função é projetada para profissionais autodirigidos e autônomos que conseguem identificar os problemas de maior alavancagem e resolvê-los de ponta a ponta sem orientação constante. • Você trabalhará de forma assíncrona com nossa sede em San Francisco, mantendo total responsabilidade por infraestrutura crítica. • Você pode estar otimizando kernels CUDA em uma semana, projetando sistemas de orquestração distribuída na seguinte e implementando novas arquiteturas de modelo na outra. • O trabalho que você realizar impactará diretamente a forma como o mundo executa inferência de IA. • Possíveis áreas de foco incluem: • - Runtime de Inferência: ampliar os limites do serving de modelos LLM e de difusão. • - Engenharia de Kernels: escrever kernels de baixo nível e otimizações. • - Performance & Escala: construir sistemas distribuídos que possibilitem inferência em escala global. • - Orquestração em Nuvem: construir a espinha operacional para gerenciamento de clusters, automação de deploy e monitoramento em produção.
🎯 Requisitos
• Graduação (Bacharel) ou experiência equivalente em ciência da computação, engenharia ou área similar • Capacidade demonstrada de trabalhar de forma autônoma e conduzir projetos até a conclusão sem supervisão próxima • Excelentes habilidades de comunicação assíncrona e capacidade de colaborar efetivamente entre fusos horários • Sólido histórico de entrega de trabalhos de alto impacto em ambientes técnicos complexos • Expertise profunda em pelo menos uma das áreas: programação de sistemas, programação para GPU/aceleradores, sistemas distribuídos ou infraestrutura de ML • Profundidade técnica (forte em pelo menos duas): • - Kernels CUDA ou equivalentes (Triton, TileLang, Pallas) com compreensão profunda da arquitetura de GPUs • - Sistemas distribuídos de alto desempenho em Rust, Go ou C++ • - Python com internals do PyTorch e sistemas de inferência LLM (vLLM, TensorRT-LLM, SGLang) • - Kubernetes, orquestração de containers e infrastructure-as-code em escala • - Arquiteturas Transformer, gerenciamento de memória KV-cache e model serving • Qualificações Preferenciais: • - Contribuições para vLLM ou outros grandes projetos open-source de ML/sistemas • - Experiência com múltiplas plataformas de aceleradores (NVIDIA, AMD, TPU, Intel) • - Conhecimento de técnicas de quantização, otimização de kernels específicos para ML ou tecnologias de compilador • - Histórico de melhoria da confiabilidade e performance de sistemas em escala • - Publicações de blogs técnicos amplamente compartilhados ou projetos paralelos impactantes na área de infraestrutura de ML.
🏖️ Benefícios
• A Inferact oferece benefícios competitivos apropriados à sua localização, incluindo cobertura de saúde quando aplicável.
Candidatar-se
