Principal Performance Engineer, Lead

🕒 il y a 4 mois

🍂 Massachusetts – Distant

🍂 Massachusetts – Remote

💵 $169 300 - $304 700 / an

⏰ Temps Plein

🟠 Senior

🧑‍💻 Développeur Full-Stack

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Akamai Technologies

Site WebLinkedInTous les Emplois

5001 - 10000 employés

🔒 Cybersecurity

🏢 Entreprise

📱 Médias

Cybersecurity • Enterprise • Media

Akamai Technologies est une entreprise mondiale de services de cloud et de plateforme à la périphérie, offrant des solutions de diffusion de contenu, de calcul en périphérie et de sécurité. L'entreprise exploite l'un des plus grands réseaux distribués au monde pour accélérer et protéger le trafic web, média et applicatif, en proposant des produits pour la diffusion de contenu, la protection contre les attaques DDoS, la sécurité des API et des applications, la gestion des bots, le calcul en périphérie (fonctions sans serveur/périphérie) et l'inférence IA en périphérie. Akamai fournit également des services de sécurité axés sur l'entreprise (confiance zéro, gestion des identités et des accès, accès internet sécurisé) et des outils d'infrastructure cloud/IA, ayant récemment élargi ses capacités grâce à des acquisitions (par exemple LayerX) pour intégrer le contrôle d'utilisation de l'IA basé sur navigateur.

Description

• Optimize inference performance across the Akamai Inference Cloud • Collaborate closely with hardware performance engineers to deliver end-to-end optimization • Apply and evaluate quantization, distillation, and pruning techniques to optimize model performance while preserving accuracy • Design hardware-aware model placement and scheduling strategies to match models with optimal compute resources • Implement and tune speculative decoding, KV-cache optimization, and batching strategies to improve inference throughput and latency • Build benchmarking and profiling pipelines to measure model-layer performance across architectures, hardware, and serving configurations • Mentor and guide engineers on the team through code reviews, design discussions, and technical problem-solving • Collaborate with hardware performance engineers to identify and resolve end-to-end performance bottlenecks across the inference stack

🎯 Exigences

• 12+ years of relevant experience with a Bachelor's or Master's degree in Computer Science, Machine Learning, or a related field • Possess hands-on experience optimizing LLM inference performance (quantization, speculative decoding, model compression, etc.) • Have a solid understanding of transformer architectures and how design choices impact latency, throughput, and accuracy • Possess experience with inference serving frameworks such as vLLM, TensorRT-LLM, Triton, or similar systems • Be proficient in Python and C++ with experience profiling and optimizing compute-intensive workloads • Have familiarity with hardware-aware optimization, including GPU/accelerator scheduling and memory management trade-offs.

🏖️ Avantages

• Health insurance • 401K savings plan • Company holidays • Vacation (in the form of PTO) • Sick time • Family friendly benefits including parental leave • Employee assistance program with focus on mental and financial wellness