Staff Engineer, Inference Optimizations

🕒 Outubro 31

🏄 California – Remoto

🏄 California – Remote

💵 $191.200 - $239.000 / ano

⏰ Tempo Integral

🔴 Especialista

🧑‍💻 Engenheiro Full-stack

🦅 Patrocina Visto H1B

Esta empresa já patrocinou vistos H1B no passado.

👻 Score fantasma 0%

O que significa: a chance de ninguém estar realmente contratando para esta vaga.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

DigitalOcean

SiteLinkedInTodas as Vagas

1001 - 5000 funcionários

Fundada em 2011

☁️ SaaS

SaaS • Cloud Computing

A DigitalOcean é um provedor de infraestrutura em nuvem que oferece um conjunto de produtos e serviços para que desenvolvedores construam, implantem e dimensionem aplicações. Sua plataforma disponibiliza tutoriais abrangentes, materiais de referência e documentação de suporte para ajudar os usuários a gerenciar recursos de forma eficiente usando suas ferramentas de API e CLI. Com recursos como Droplets (máquinas virtuais), bancos de dados gerenciados, Kubernetes e um marketplace de aplicações de terceiros, a DigitalOcean prioriza simplicidade e desempenho. Atende tanto desenvolvedores individuais quanto organizações de maior porte que buscam soluções em nuvem fáceis de implementar e gerenciar.

Descrição

• Lead technical strategy for benchmarking and performance optimizations at inference engine and GPU kernel layers • Engineer solutions for attention-layer optimization, memory and precision management, and advanced parallelization across multi-node GPU clusters • Implement cutting-edge optimization techniques for generative AI infrastructure • Improve batch-size performance using AMD's AITER library for AMD MI355X, tuning CK or ASK for FP8/BF16 • Identify kernel-fusion opportunities for GLM-5 Transformer-block kernels, including FlashAttention and RMS Norm • Tune expert-gateway router kernels for MoE models such as Qwen3-235B, DeepSeek V3, and GLM-5 • Advise on modern NVIDIA and AMD GPU hardware procurement and software integration • Develop and deploy quantization techniques using FP8, INT8, and experimental FP4 • Provide technical mentorship through high-quality code and design reviews without direct management • Partner with Product Management and TPMs to translate hardware limits into shippable product features • Contribute to and integrate open-source AI while maintaining a presence in GPU infrastructure and model-performance communities

🎯 Requisitos

• 5+ years of experience in high-performance computing or AI infrastructure • Proven track record of solving compute utilization and memory bandwidth bottlenecks • Deep familiarity with the Gen AI landscape, including LLM, VLM, and LMM model families • Hands-on experience with attention-layer optimizations and parallelization strategies across distributed GPU environments • Comprehensive understanding of NVIDIA and AMD GPU architectures and software ecosystems, including CUDA and ROCm • Extensive experience integrating, building with, and contributing to open-source software projects • Excellent system design skills related to low-level GPU programming, optimization, memory access patterns, and parallel execution • Experience acting as a technical lead and driving design and delivery through cross-functional alignment and expert-level delegation • Deep understanding of GPU architectures, including SMs, warp scheduling, and Tensor Cores • Expert-level Triton or CUDA proficiency • Experience contributing to the Triton compiler or writing custom CUDA kernels for a major LLM is desired by the posting's wording

🏖️ Benefícios

• Reimbursement for relevant conferences, training, and education, subject to company policy • Flexible time off • Local team meetups • Mental health and well-being support • Annual bonus plan eligibility for non-sales roles, subject to plan terms and local eligibility • Potential new hire equity grant, subject to plan terms and local eligibility • Employee Stock Purchase Program opportunity in participating countries, subject to eligibility • Comprehensive total rewards package • Professional development resources and career development support

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo