Staff Engineer, Inference Optimizations

🕒 Outubro 31

🍂 Massachusetts – Remoto

🍂 Massachusetts – Remote

💵 $191.200 - $239.000 / ano

⏰ Tempo Integral

🔴 Especialista

🧑‍💻 Engenheiro Full-stack

🦅 Patrocina Visto H1B

Esta empresa já patrocinou vistos H1B no passado.

👻 Score fantasma 0%

O que significa: a chance de ninguém estar realmente contratando para esta vaga.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

DigitalOcean

SiteLinkedInTodas as Vagas

1001 - 5000 funcionários

Fundada em 2011

☁️ SaaS

SaaS • Cloud Computing

A DigitalOcean é um provedor de infraestrutura em nuvem que oferece um conjunto de produtos e serviços para que desenvolvedores construam, implantem e dimensionem aplicações. Sua plataforma disponibiliza tutoriais abrangentes, materiais de referência e documentação de suporte para ajudar os usuários a gerenciar recursos de forma eficiente usando suas ferramentas de API e CLI. Com recursos como Droplets (máquinas virtuais), bancos de dados gerenciados, Kubernetes e um marketplace de aplicações de terceiros, a DigitalOcean prioriza simplicidade e desempenho. Atende tanto desenvolvedores individuais quanto organizações de maior porte que buscam soluções em nuvem fáceis de implementar e gerenciar.

Descrição

• Lead the technical strategy for benchmarking and performance optimization at inference-engine and GPU-kernel layers • Solve complex performance issues involving attention-layer optimization, memory and precision management, and parallelization across multi-node GPU clusters • Implement cutting-edge optimization techniques for generative AI inference • Improve batch-size performance using AMD’s AITER library for AMD MI355X and tune CK or ASK kernels for FP8/BF16 • Identify kernel-fusion opportunities for GLM-5 Transformer-block kernels, including FlashAttention and RMS Norm • Tune expert-gateway router kernels for MoE models such as Qwen3-235B, DeepSeek V3, and GLM-5 • Advise on modern NVIDIA and AMD GPU hardware, software integration, and procurement • Develop and deploy quantization techniques including FP8, INT8, and experimental FP4 • Conduct code and design reviews and provide technical mentorship without direct-management responsibilities • Partner with Product Management and TPMs to turn hardware limits into shippable product features • Contribute to and integrate open-source AI work while maintaining presence in GPU infrastructure and model-performance communities

🎯 Requisitos

• 5+ years of experience in high-performance computing or AI infrastructure • Proven track record of solving compute utilization and memory bandwidth bottlenecks • Deep familiarity with the Gen AI landscape, including LLM, VLM, and LMM model families • Hands-on experience with attention-layer optimizations and parallelization across distributed GPU environments • Comprehensive understanding of NVIDIA and AMD GPU architectures and software ecosystems, including CUDA and ROCm • Extensive experience integrating, building with, and contributing to open-source software projects • Excellent system design skills related to low-level GPU programming, optimization, memory access patterns, and parallel execution • Experience acting as a technical lead and driving design and delivery through cross-functional alignment and delegation • Deep understanding of GPU architectures, including SMs, Warp scheduling, and Tensor Cores • Expert-level Triton or CUDA proficiency • Experience contributing to the Triton compiler or writing custom CUDA kernels for a major LLM is sought

🏖️ Benefícios

• Reimbursement for relevant conferences, training, and education, subject to company policy • Flexible time off • Local team meetups • Mental health and well-being support • Eligible employees may receive equity compensation, including a new hire equity grant • Opportunity to participate in the Employee Stock Purchase Program in participating countries • Eligibility for DigitalOcean’s annual bonus plan • Equal-opportunity employment

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo