Staff Engineer, Inference Optimizations

🕒 Outubro 31

⛰️ Colorado – Remoto

⛰️ Colorado – Remote

💵 $191.200 - $239.000 / ano

⏰ Tempo Integral

🔴 Especialista

🧑‍💻 Engenheiro Full-stack

🦅 Patrocina Visto H1B

Esta empresa já patrocinou vistos H1B no passado.

👻 Score fantasma 0%

O que significa: a chance de ninguém estar realmente contratando para esta vaga.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

DigitalOcean

SiteLinkedInTodas as Vagas

1001 - 5000 funcionários

Fundada em 2011

☁️ SaaS

SaaS • Cloud Computing

A DigitalOcean é um provedor de infraestrutura em nuvem que oferece um conjunto de produtos e serviços para que desenvolvedores construam, implantem e dimensionem aplicações. Sua plataforma disponibiliza tutoriais abrangentes, materiais de referência e documentação de suporte para ajudar os usuários a gerenciar recursos de forma eficiente usando suas ferramentas de API e CLI. Com recursos como Droplets (máquinas virtuais), bancos de dados gerenciados, Kubernetes e um marketplace de aplicações de terceiros, a DigitalOcean prioriza simplicidade e desempenho. Atende tanto desenvolvedores individuais quanto organizações de maior porte que buscam soluções em nuvem fáceis de implementar e gerenciar.

Descrição

• Lead technical strategy for benchmarking and performance optimization at inference-engine and GPU-kernel layers • Engineer solutions for attention-layer optimization, memory and precision management, and parallelization across multi-node GPU clusters • Implement cutting-edge optimization techniques for generative AI inference • Improve batch-size performance using AMD AITER, including tuning CK or ASK for FP8/BF16 on AMD MI355X • Identify kernel-fusion opportunities for GLM-5 Transformer-block kernels, including FlashAttention and RMS Norm • Tune expert gateway router kernels for MoE models such as Qwen3-235B, DeepSeek V3, and GLM-5 • Advise on modern NVIDIA and AMD GPU hardware procurement and software integration • Develop and deploy quantization techniques including FP8, INT8, and FP4 • Lead code and design reviews and mentor engineers without direct administrative management • Partner with Product Management and TPMs to turn hardware limits into shippable product features • Contribute to and integrate open-source AI while participating in GPU infrastructure and model-performance communities

🎯 Requisitos

• 5+ years of experience in high-performance computing or AI infrastructure • Proven track record of solving compute utilization and memory bandwidth bottlenecks • Deep familiarity with the Gen AI (LLM, VLM, LMM) landscape • Hands-on experience with attention-layer optimizations and parallelization across distributed GPU environments • Comprehensive understanding of NVIDIA and AMD GPU architectures and software ecosystems, including CUDA and ROCm • Extensive experience integrating, building with, and contributing to open-source software projects • Excellent system design skills related to low-level GPU programming, optimization, memory access patterns, and parallel execution • Experience acting as a technical lead and driving design and delivery through cross-functional alignment • Deep understanding of GPU architectures, including SMs, Warp scheduling, and Tensor Cores • Expert-level Triton or CUDA; experience contributing to the Triton compiler or writing custom CUDA kernels for a major LLM desired • Expert knowledge of inference optimization, including attention layers, memory and precision management, and distributed GPU parallelization

🏖️ Benefícios

• Professional development resources • Reimbursement for relevant conferences, training, and education, subject to company policy • Flexible time off • Local team meetups • Mental health and well-being support • Annual bonus plan eligibility • Potential new hire equity grant • Employee Stock Purchase Program opportunity in participating countries • Equal-opportunity employment

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo