Senior-Architekt/in für GPU-Netzwerke

🕒 vor 6 Monaten

🌐 Schweiz, Vereinigtes Königreich, +1 weitere Länder – Remote

🇨🇭 Schweiz – Remote 🇬🇧 Vereinigtes Königreich – Remote 🇩🇪 Deutschland – Remote

⏰ Vollzeit

🟠 Senior

🏛️ Architekt

👻 Geisterscore 56%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

NVIDIA

WebsiteLinkedInAlle Stellen

10.000+ Mitarbeiter

Gegründet 1993

🏥 Gesundheitswesen

🏭 Fertigung

🤖 Künstliche Intelligenz

Healthcare • Manufacturing • Artificial Intelligence

NVIDIA ist ein führendes Technologieunternehmen mit Spezialisierung auf beschleunigtes Computing und Künstliche Intelligenz (AI). NVIDIA treibt Fortschritte bei Grafikprozessoren (GPUs), Cloud Computing, Rechenzentren und Virtual Reality voran und fokussiert dabei Branchen wie Gaming, Automotive, Gesundheitswesen und Robotik. Innovationen des Unternehmens wie NVIDIA Omniverse transformieren traditionelle digitale Prozesse, indem sie hochrealistische Simulationen und Rendering-Aufgaben ermöglichen. Die Anwendungen erstrecken sich über zahlreiche Branchen – von autonomen Fahrzeugen mit NVIDIA DRIVE über Gesundheitslösungen mit NVIDIA Clara bis hin zu AI-gestützten Analysen und Workflows.

Beschreibung

• Entwicklung, Implementierung und Optimierung von GPU-Kommunikationskernels für Kollektiv- und Punkt-zu-Punkt-Operationen in groß angelegten KI-Systemen • Nutzung fundierter Kenntnisse der GPU-Architektur zur Steigerung der Kernel-Effizienz, Minimierung der Latenz und Überlappung von Berechnungen und Kommunikation • Entwicklung GPU-residenter Kommunikationsprimitive und geräteseitiger APIs für die durch Kernel initiierte Datenübertragung zwischen Knoten und Beschleunigern • Durchgängiges Profiling und Tuning von GPU-Kernels, Identifizierung von Engpässen bei Rechenleistung, Speicher und Netzwerk sowie Umsetzung gezielter Optimierungen • Zusammenarbeit mit Teams für Netzwerksoftware, Hardware und KI-Frameworks zur gemeinsamen Entwicklung von Kommunikationsstrategien • Erstellung von Machbarkeitsnachweisen, Durchführung von Experimenten und quantitative Modellierung zur Bewertung von Kommunikationsstrategien • Mitwirkung an Programmiermodellen, die anwendungsentwickelnden Personen GPU-bewusste Netzwerkfunktionen bereitstellen

🎯 Anforderungen

• Mindestens 5 Jahre praktische Erfahrung in der CUDA-Programmierung, einschließlich der Entwicklung und Optimierung anspruchsvoller GPU-Kernels • Masterabschluss oder gleichwertige Erfahrung in Informatik, Computer Engineering oder einem eng verwandten Fachgebiet • Fundierte Kenntnisse der Grundlagen der GPU-Architektur: Warp-Scheduling, Shared Memory, L2-Cache, Memory Coalescing, Optimierung der Auslastung und asynchrone Ausführung • Erfahrung in der systemnahen Entwicklung mit C/C++ in performancekritischen Umgebungen • Vertrautheit mit GPU-Datenübertragungsmechanismen wie GPUDirect RDMA und GPU-initiierter Kommunikation • Fähigkeit, GPU-Performance-Profile mit Tools wie Nsight Compute und Nsight Systems zu lesen und zu analysieren • Ausgeprägte Fähigkeit zur Zusammenarbeit in einem multinationalen, interdisziplinären Umfeld • Erfahrung in der Entwicklung oder Optimierung von Kommunikationskernels in Bibliotheken wie NCCL, NVSHMEM oder vergleichbaren GPU-bewussten Kommunikationsframeworks • Verständnis von Parallelisierungstechniken für verteiltes Deep Learning, einschließlich Daten-, Tensor-, Pipeline-, Experten- und Mixture-of-Experts-Parallelisierung • Kenntnisse in RDMA, InfiniBand, Hochgeschwindigkeitsnetzwerken und der GPU-Systemtopologie, einschließlich NVLink, NVSwitch, PCIe und Netzwerk-Fabrics • Erfahrung mit Kernel-Pipelining, persistenten Kernels oder Cooperative Groups • Nachweisbare Erfahrung in der Bewertung und Optimierung groß angelegter Workloads für das Training oder die Inferenz großer Sprachmodelle (LLMs) • Praktische Erfahrung mit PyTorch, TensorRT-LLM oder vLLM • Vertrautheit mit disaggregierten Serving-Architekturen

🏖️ Vorteile

• Äußerst wettbewerbsfähige Vergütung • Umfassendes Leistungspaket • Leistungen für Sie und Ihre Familie