Senior Deep Learning Software Engineer, Inference, Model Optimization

🕒 vor 7 Tagen

🏄 California – Remote

🏄 California – Remote

💵 $184.000 - $356.500 / Jahr

⏰ Vollzeit

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

🦅 H1B-Visum-Sponsor

Dieses Unternehmen hat in der Vergangenheit H1B-Visa gesponsert.

👻 Geisterscore 1%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

NVIDIA

WebsiteLinkedInAlle Stellen

10.000+ Mitarbeiter

Gegründet 1993

🏥 Gesundheitswesen

🏭 Fertigung

🤖 Künstliche Intelligenz

Healthcare • Manufacturing • Artificial Intelligence

NVIDIA ist ein führendes Technologieunternehmen mit Spezialisierung auf beschleunigtes Computing und Künstliche Intelligenz (AI). NVIDIA treibt Fortschritte bei Grafikprozessoren (GPUs), Cloud Computing, Rechenzentren und Virtual Reality voran und fokussiert dabei Branchen wie Gaming, Automotive, Gesundheitswesen und Robotik. Innovationen des Unternehmens wie NVIDIA Omniverse transformieren traditionelle digitale Prozesse, indem sie hochrealistische Simulationen und Rendering-Aufgaben ermöglichen. Die Anwendungen erstrecken sich über zahlreiche Branchen – von autonomen Fahrzeugen mit NVIDIA DRIVE über Gesundheitslösungen mit NVIDIA Clara bis hin zu AI-gestützten Analysen und Workflows.

Beschreibung

• Train, develop, and deploy state-of-the-art generative AI models such as LLMs and diffusion models using NVIDIA's AI software stack • Leverage and build upon the Torch 2.0 ecosystem, including TorchDynamo, torch.export, and torch.compile, to analyze and extract standardized model graph representations from arbitrary Torch models • Develop high-performance inference optimization techniques, including automated model sharding, tensor parallelism, sequence parallelism, and efficient attention kernels with KV-caching • Collaborate with teams across NVIDIA to integrate performant kernel implementations into the automated deployment solution • Analyze and profile GPU kernel-level performance to identify hardware and software optimization opportunities • Continuously innovate inference performance for NVIDIA's TRT, TRT-LLM, and TRT Model Optimizer software solutions • Architect and design a modular, scalable software platform supporting broad model coverage and optimization techniques

🎯 Anforderungen

• Masters, PhD, or equivalent experience in Computer Science, AI, Applied Math, or related field • 8+ years of relevant work or research experience in Deep Learning • Excellent software design skills, including debugging, performance analysis, and test design • Strong proficiency in Python, PyTorch, and related ML tools (e.g. HuggingFace) • Strong algorithms and programming fundamentals • Good written and verbal communication skills and the ability to work independently and collaboratively in a fast-paced environment • Contributions to PyTorch, JAX, or other Machine Learning Frameworks • Knowledge of GPU architecture and compilation stack, and capability of understanding and debugging end-to-end performance • Familiarity with NVIDIA's deep learning SDKs such as TensorRT • Prior experience in writing high-performance GPU kernels for machine learning workloads in frameworks such as CUDA, CUTLASS, or Triton

🏖️ Vorteile

• Highly competitive salaries • Comprehensive benefits package • Equity