Senior Solutions Architect – Inferenz von KI-Modellen in großem Maßstab

Stelle nicht auf LinkedIn

🔥 vor 1 Stunde

🌐 Frankreich, Vereinigtes Königreich, +4 weitere Länder – Remote

🇫🇷 Frankreich – Remote 🇬🇧 Vereinigtes Königreich – Remote 🇪🇸 Spanien – Remote 🇵🇱 Polen – Remote 🇨🇭 Schweiz – Remote 🇩🇪 Deutschland – Remote

💵 zł292.500 - zł507.000 / Jahr

⏰ Vollzeit

🟠 Senior

💻 Lösungsingenieur

👻 Geisterscore 1%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

NVIDIA

WebsiteLinkedInAlle Stellen

10.000+ Mitarbeiter

Gegründet 1993

🏥 Gesundheitswesen

🏭 Fertigung

🤖 Künstliche Intelligenz

Healthcare • Manufacturing • Artificial Intelligence

NVIDIA ist ein führendes Technologieunternehmen mit Spezialisierung auf beschleunigtes Computing und Künstliche Intelligenz (AI). NVIDIA treibt Fortschritte bei Grafikprozessoren (GPUs), Cloud Computing, Rechenzentren und Virtual Reality voran und fokussiert dabei Branchen wie Gaming, Automotive, Gesundheitswesen und Robotik. Innovationen des Unternehmens wie NVIDIA Omniverse transformieren traditionelle digitale Prozesse, indem sie hochrealistische Simulationen und Rendering-Aufgaben ermöglichen. Die Anwendungen erstrecken sich über zahlreiche Branchen – von autonomen Fahrzeugen mit NVIDIA DRIVE über Gesundheitslösungen mit NVIDIA Clara bis hin zu AI-gestützten Analysen und Workflows.

Beschreibung

• Unterstützung von AI-Natives-Kunden in der EMEA-Region bei der Bereitstellung und Optimierung von Inferenz-Workloads in großem Maßstab auf Multi-Node-GPU-Clustern • Entwicklung effizienter Inferenz-Pipelines für dichte und sparsame bzw. latente MoE-Modelle mit Verteilung der Workloads auf Tausende GPUs • Steigerung der Inferenz-Effizienz durch Quantisierung, speculative decoding, disaggregated prefill/decode, KV-Cache-Management und WideEP für umfangreiche MoE-Bereitstellungen • Zusammenarbeit mit NVIDIA-Produktteams, darunter Dynamo, TensorRT-LLM und NIXL, zur Beschleunigung des Kundenerfolgs • Förderung der Entwickler-Community für KI-Inferenz in der EMEA-Region durch technische Workshops, Hackathons und Referenzarchitekturen • Festlegung der technischen Ausrichtung für skalierbare, leistungsstarke KI-Inferenz in anspruchsvollen Produktionsumgebungen

🎯 Anforderungen

• Masterabschluss oder Promotion in Informatik, Ingenieurwissenschaften, High-Performance Computing oder gleichwertige Berufserfahrung • Mindestens fünf Jahre Erfahrung in der Optimierung der Inferenz neuronaler Netze • Fundierte Kenntnisse der Inferenzoptimierung von Transformer-Modellen, einschließlich Quantisierung, disaggregated inference, speculative decoding, continuous batching und KV-Cache-Optimierung • Praktische Erfahrung mit MoE-Inferenz im großen Maßstab, einschließlich Expert Parallelism, WideEP, All-to-All-Kommunikation, Routing-Overhead und Load-Balancing im großen Maßstab • Fähigkeit zur effektiven Zusammenarbeit mit ML Engineers, Forschenden und Systemarchitekten auf tiefgreifend technischem Niveau • Praktische Erfahrung mit NVIDIA Dynamo, NIXL, Grove oder neuen Tools für disaggregated inference • Verständnis der GPU-Speicherhierarchien und Hochgeschwindigkeitsverbindungen, einschließlich NVLink, InfiniBand, RDMA und UCX • Beiträge zu fortgeschrittenen KI-Laboren oder Anbietern groß angelegter KI-Infrastrukturen, die Inferenz auf Tausenden GPUs durchführen • Veröffentlichte Arbeiten oder Benchmarks zur KI-Inferenz im großen Maßstab

🏖️ Vorteile

• Sehr attraktive Vergütung • Umfassendes Leistungspaket