ML Platform Engineer, Distributed Training

🕒 vor 21 Tagen

🇺🇸 Vereinigte Staaten – Remote

💵 $159.300 - $219.245 / Jahr

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🏗️ Plattformingenieur

🦅 H1B-Visum-Sponsor

Dieses Unternehmen hat in der Vergangenheit H1B-Visa gesponsert.

👻 Geisterscore 1%

Was es bedeutet: die Wahrscheinlichkeit, dass für diese Stelle niemand wirklich einstellt.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Warum dieser Wert:

• Seit 22 Tagen offen.
• Stellen bei diesem Unternehmen werden meist in 52 Tagen besetzt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

Egen

WebsiteLinkedInAlle Stellen

501 - 1000 Mitarbeiter

Gegründet 2000

💼 Beratung

📦 Logistik

📣 Marketing

Consulting • Logistics • Marketing

Egen ist ein Unternehmen, das sich auf die Entwicklung innovativer Lösungen mithilfe von Plattformen, Daten und generativer KI spezialisiert hat. Sie konzentrieren sich darauf, das Potenzial von Daten zu nutzen, um Organisationen und Einzelpersonen zu stärken, und bieten Dienstleistungen in verschiedenen Bereichen an, darunter Kommunikation, Gesundheitswesen und öffentliche Sektorlösungen. Ihre anpassbaren Plattformen adressieren kritische Herausforderungen im urbanen Management, in der Kundenbindung, in der klinischen Versorgung und im operativen Bereich, um signifikante Ergebnisse für Kunden zu erzielen.

Beschreibung

• Work with the client's infrastructure team on the GKE training platform, including GPU node pools, job queueing and scheduling, quota, and capacity • Diagnose and fix platform failures at the root cause • Tune multi-node GPU networking, including RDMA/GPUDirect and NCCL, for training throughput • Run, scale, and debug multi-node distributed training with PyTorch and Ray Train • Profile jobs and remove bottlenecks across compute, memory, input pipelines, and interconnect • Design and run performance benchmarks for the cluster and training stack • Build and maintain model evaluation harnesses • Instrument training and the platform with telemetry and monitoring • Maintain end-to-end pipeline tests against real user workloads • Proactively identify issues, address gaps, propose solutions, communicate status and risks, and support scientists using the platform • Explain and defend design decisions to client engineers and scientists • Adapt effectively as client priorities and team structure change • Develop document intelligence and retrieval-augmented generation (RAG) features from prototype through scalable production services • Translate client business needs into high-performance AI architectures

🎯 Anforderungen

• 5+ years of engineering experience, with recent hands-on work on GPU training infrastructure and large-scale training • Mastery of Python and shell scripting • Extensive experience with Google Gemini, GPT-4, or LLaMA • Deep knowledge of prompt engineering and fine-tuning • Expertise in vector databases, including Vertex AI Vector Search and pgvector • Experience implementing semantic search • Hands-on experience with Google Cloud (Vertex AI) and scalable software architectures • Proficiency in LangChain, LlamaIndex, or similar orchestration layers • Strong Python software engineering, including production-quality code, tests, and code review • Experience with Kubernetes on Google Cloud, GPU node pools, job queueing, and capacity/quota management • Personal experience running and debugging multi-node distributed training jobs with PyTorch and Ray Train • Experience with GPUDirect/RDMA, NCCL tuning, and multi-node GB200 or H200 topology • Experience designing performance benchmarks and model evaluations • Ability to explain system operation and rationale without relying on AI coding tools • Track record of visible ownership, communication, and accountability on a demanding team • Healthcare or life-sciences data experience and HIPAA experience are nice to have • Observability and telemetry for training platforms are nice to have

🏖️ Vorteile

• Comprehensive Health Insurance • Paid Leave (Vacation/PTO) • Paid Holidays • Sick Leave • Parental Leave • Bereavement Leave • 401(k) Employer Match • Employee Referral Bonuses

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen