ML Platform Engineer, Distributed Training

🕒 Outubro 19

🇺🇸 Estados Unidos – Remoto (EUA)

💵 $159.300 - $219.245 / ano

⏰ Tempo Integral

🟡 Pleno

🟠 Sênior

🏗️ Engenheiro de Plataforma

🦅 Patrocina Visto H1B

Esta empresa já patrocinou vistos H1B no passado.

👻 Score fantasma 1%

O que significa: a chance de ninguém estar realmente contratando para esta vaga.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Egen

SiteLinkedInTodas as Vagas

501 - 1000 funcionários

Fundada em 2000

💼 Consultoria

📦 Logística

📣 Marketing

Consulting • Logistics • Marketing

A Egen é uma empresa que se especializa em soluções inovadoras de engenharia usando plataformas, dados e IA generativa. Eles se concentram em aproveitar o potencial dos dados para capacitar organizações e indivíduos, fornecendo serviços em vários setores, incluindo comunicações, saúde e soluções para o setor público. Suas plataformas personalizáveis abordam desafios críticos na gestão urbana, engajamento do cliente, cuidado clínico e excelência operacional, com o objetivo de gerar resultados impactantes para os clientes.

Descrição

• Work with the client's infrastructure team on the GKE training platform, including GPU node pools, job queueing and scheduling, quota, and capacity • Diagnose and fix platform failures at the root cause • Tune multi-node GPU networking, including RDMA/GPUDirect and NCCL, for training throughput • Run, scale, and debug multi-node distributed training with PyTorch and Ray Train • Profile jobs and remove bottlenecks across compute, memory, input pipelines, and interconnect • Design and run performance benchmarks for the cluster and training stack • Build and maintain model evaluation harnesses • Instrument training and the platform with telemetry and monitoring • Maintain end-to-end pipeline tests against real user workloads • Proactively identify issues, address gaps, propose solutions, communicate status and risks, and support scientists using the platform • Explain and defend design decisions to client engineers and scientists • Adapt effectively as client priorities and team structure change • Develop document intelligence and retrieval-augmented generation (RAG) features from prototype through scalable production services • Translate client business needs into high-performance AI architectures

🎯 Requisitos

• 5+ years of engineering experience, with recent hands-on work on GPU training infrastructure and large-scale training • Mastery of Python and shell scripting • Extensive experience with Google Gemini, GPT-4, or LLaMA • Deep knowledge of prompt engineering and fine-tuning • Expertise in vector databases, including Vertex AI Vector Search and pgvector • Experience implementing semantic search • Hands-on experience with Google Cloud (Vertex AI) and scalable software architectures • Proficiency in LangChain, LlamaIndex, or similar orchestration layers • Strong Python software engineering, including production-quality code, tests, and code review • Experience with Kubernetes on Google Cloud, GPU node pools, job queueing, and capacity/quota management • Personal experience running and debugging multi-node distributed training jobs with PyTorch and Ray Train • Experience with GPUDirect/RDMA, NCCL tuning, and multi-node GB200 or H200 topology • Experience designing performance benchmarks and model evaluations • Ability to explain system operation and rationale without relying on AI coding tools • Track record of visible ownership, communication, and accountability on a demanding team • Healthcare or life-sciences data experience and HIPAA experience are nice to have • Observability and telemetry for training platforms are nice to have

🏖️ Benefícios

• Comprehensive Health Insurance • Paid Leave (Vacation/PTO) • Paid Holidays • Sick Leave • Parental Leave • Bereavement Leave • 401(k) Employer Match • Employee Referral Bonuses

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo