ML Platform Engineer, Distributed Training

🕒 il y a 10 jours

🇺🇸 États-Unis – Télétravail

💵 $159 300 - $219 245 / an

⏰ Temps Plein

🟡 Intermédiaire

🟠 Senior

🏗️ Ingénieur Plateforme

🦅 Parrain de Visa H1B

Cette entreprise a parrainé des visas H1B par le passé.

👻 Score fantôme 1%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Egen

Site WebLinkedInTous les Emplois

501 - 1000 employés

Fondée en 2000

💼 Conseil

📦 Logistique

📣 Marketing

Consulting • Logistics • Marketing

Egen est une entreprise spécialisée dans l'ingénierie de solutions innovantes utilisant des plateformes, des données et de l'IA générative. Elle se concentre sur l'exploitation du potentiel des données pour autonomiser les organisations et les individus, offrant des services dans divers secteurs, y compris les communications, la santé et les solutions pour le secteur public. Leurs plateformes personnalisables répondent à des défis critiques en gestion urbaine, engagement client, soins cliniques et excellence opérationnelle, visant à générer des résultats impactants pour les clients.

Description

• Work with the client's infrastructure team on the GKE training platform, including GPU node pools, job queueing and scheduling, quota, and capacity • Diagnose and fix platform failures at the root cause • Tune multi-node GPU networking, including RDMA/GPUDirect and NCCL, for training throughput • Run, scale, and debug multi-node distributed training with PyTorch and Ray Train • Profile jobs and remove bottlenecks across compute, memory, input pipelines, and interconnect • Design and run performance benchmarks for the cluster and training stack • Build and maintain model evaluation harnesses • Instrument training and the platform with telemetry and monitoring • Maintain end-to-end pipeline tests against real user workloads • Proactively identify issues, address gaps, propose solutions, communicate status and risks, and support scientists using the platform • Explain and defend design decisions to client engineers and scientists • Adapt effectively as client priorities and team structure change • Develop document intelligence and retrieval-augmented generation (RAG) features from prototype through scalable production services • Translate client business needs into high-performance AI architectures

🎯 Exigences

• 5+ years of engineering experience, with recent hands-on work on GPU training infrastructure and large-scale training • Mastery of Python and shell scripting • Extensive experience with Google Gemini, GPT-4, or LLaMA • Deep knowledge of prompt engineering and fine-tuning • Expertise in vector databases, including Vertex AI Vector Search and pgvector • Experience implementing semantic search • Hands-on experience with Google Cloud (Vertex AI) and scalable software architectures • Proficiency in LangChain, LlamaIndex, or similar orchestration layers • Strong Python software engineering, including production-quality code, tests, and code review • Experience with Kubernetes on Google Cloud, GPU node pools, job queueing, and capacity/quota management • Personal experience running and debugging multi-node distributed training jobs with PyTorch and Ray Train • Experience with GPUDirect/RDMA, NCCL tuning, and multi-node GB200 or H200 topology • Experience designing performance benchmarks and model evaluations • Ability to explain system operation and rationale without relying on AI coding tools • Track record of visible ownership, communication, and accountability on a demanding team • Healthcare or life-sciences data experience and HIPAA experience are nice to have • Observability and telemetry for training platforms are nice to have

🏖️ Avantages

• Comprehensive Health Insurance • Paid Leave (Vacation/PTO) • Paid Holidays • Sick Leave • Parental Leave • Bereavement Leave • 401(k) Employer Match • Employee Referral Bonuses

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV