Principal Performance Engineer – Lead

🕒 il y a 2 mois

🍂 Massachusetts – Distant

🍂 Massachusetts – Remote

💵 $169 300 - $304 700 / an

⏰ Temps Plein

🟠 Senior

👷🏻‍♀️ Ingénieur

🦅 Parrain de Visa H1B

Cette entreprise a parrainé des visas H1B par le passé.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Recevoir des emails pour des emplois à distance

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Akamai Technologies

Site WebLinkedInTous les Emplois

5001 - 10000 employés

🔒 Cybersecurity

💰 Post-IPO Equity en 2001-07

Cloud Computing • Cybersecurity • Content Delivery

Akamai Technologies est une plateforme mondiale en périphérie et une société de services cloud qui alimente, sécurise et accélère les applications en ligne, les médias et les API. Elle propose des services de diffusion de contenu (CDN), de calcul en périphérie, d'infrastructure cloud et une offre complète de sécurité incluant la protection contre les attaques DDoS, la sécurité des applications web et des API, l'atténuation des bots, les services DNS et des solutions zero-trust pour les entreprises. Akamai sert de grandes entreprises dans les secteurs des médias, de la finance, du commerce de détail, du jeu vidéo et du secteur public pour améliorer la performance, la fiabilité et la sécurité à grande échelle.

Description

• Optimize inference performance across the Akamai Inference Cloud • Collaborate closely with hardware performance engineers to deliver end-to-end optimization • Apply and evaluate quantization, distillation, and pruning techniques to optimize model performance while preserving accuracy • Design hardware-aware model placement and scheduling strategies to match models with optimal compute resources • Implement and tune speculative decoding, KV-cache optimization, and batching strategies to improve inference throughput and latency • Build benchmarking and profiling pipelines to measure model-layer performance across architectures, hardware, and serving configurations • Mentor and guide engineers on the team through code reviews, design discussions, and technical problem-solving • Collaborate with hardware performance engineers to identify and resolve end-to-end performance bottlenecks across the inference stack

🎯 Exigences

• 12+ years of relevant experience with a Bachelor's or Master's degree in Computer Science, Machine Learning, or a related field • Possess hands-on experience optimizing LLM inference performance (quantization, speculative decoding, model compression, etc.) • Have a solid understanding of transformer architectures and how design choices impact latency, throughput, and accuracy • Possess experience with inference serving frameworks such as vLLM, TensorRT-LLM, Triton, or similar systems • Be proficient in Python and C++ with experience profiling and optimizing compute-intensive workloads • Have familiarity with hardware-aware optimization, including GPU/accelerator scheduling and memory management trade-offs

🏖️ Avantages

• healthcare • 401K savings plan • company holidays • vacation (in the form of PTO) • sick time • family friendly benefits including parental leave • employee assistance program including a focus on mental and financial wellness