Distinguished Engineer, Scaled Out Inferencing

🕒 vor 13 Tagen

🏄 California – Remote

🏄 California – Remote

💵 $320.000 - $488.750 / Jahr

⏰ Vollzeit

🟠 Senior

🔴 Experte

👷🏻‍♀️ Ingenieur

🦅 H1B-Visum-Sponsor

Dieses Unternehmen hat in der Vergangenheit H1B-Visa gesponsert.

👻 Geisterscore 1%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

NVIDIA

WebsiteLinkedInAlle Stellen

10.000+ Mitarbeiter

Gegründet 1993

🏥 Gesundheitswesen

🏭 Fertigung

🤖 Künstliche Intelligenz

Healthcare • Manufacturing • Artificial Intelligence

NVIDIA ist ein führendes Technologieunternehmen mit Spezialisierung auf beschleunigtes Computing und Künstliche Intelligenz (AI). NVIDIA treibt Fortschritte bei Grafikprozessoren (GPUs), Cloud Computing, Rechenzentren und Virtual Reality voran und fokussiert dabei Branchen wie Gaming, Automotive, Gesundheitswesen und Robotik. Innovationen des Unternehmens wie NVIDIA Omniverse transformieren traditionelle digitale Prozesse, indem sie hochrealistische Simulationen und Rendering-Aufgaben ermöglichen. Die Anwendungen erstrecken sich über zahlreiche Branchen – von autonomen Fahrzeugen mit NVIDIA DRIVE über Gesundheitslösungen mit NVIDIA Clara bis hin zu AI-gestützten Analysen und Workflows.

Beschreibung

• Architect distributed pipelines and drive technical implementation of high-throughput, low-latency distributed inference systems for massive-scale AI workloads • Lead hardware-software co-optimization and performance tuning at the kernel and driver level • Optimize GPU resource management and hardware acceleration for production-grade model serving • Guide and influence open source projects including Dynamo, TensorRT-LLM, vLLM, SGLang, Linux, Kubernetes, and Ray • Orchestrate full model lifecycles, including automated deployment, versioning, and intelligent scaling across cloud and datacenter environments • Collaborate with customers, infrastructure providers, and partners to establish performance and availability standards • Lead technical planning and continuous evolution across ideation, architecture, design, development, deployment, operations, and lifecycle management • Develop organizational alignment across technical and senior corporate leadership • Synthesize cross-functional needs into architecture and design while guiding execution across diverse teams

🎯 Anforderungen

• 16+ overall years in technical roles • Recent long-term focus on AI infrastructure • Recent direct experience in large-scale inference orchestration • Proven track record building secure, highly available, and durable production distributed systems • 7–10+ years of leadership experience • BS/MS or higher or equivalent experience in systems/software engineering or related engineering fields • Proficiency in GPU architecture, hardware acceleration, and low-level performance tuning, including CUDA and kernels • Experience with cloud-native architectures for multi-tenant model serving • Proven success delivering technically complex solutions with transparency into resource utilization, performance, and operational insights • Ability to develop consensus and organizational alignment across technical and senior corporate leadership • Ability to synthesize cross-functional needs into architecture and design and guide execution across diverse teams • Strong collaboration and influence skills • Real-world experience building systems supporting AI/ML workloads • Direct experience designing, developing, delivering, and operating secure, highly available, scaled-out systems in enterprise and cloud environments • Demonstrated history creating scalable processes and extensible systems for cross-functional collaboration and operations at scale • Familiarity with open source ecosystems and projects including Dynamo, TensorRT-LLM, vLLM, SGLang, and Ray • Ability to collaborate and influence in open source project governance

🏖️ Vorteile

• Competitive salaries • Generous benefits package • Equity • Benefits