Principal Machine Learning Engineer, Inference

🕒 vor 16 Tagen

🇬🇧 Vereinigtes Königreich – Remote

💵 £140.000 - £200.000 / Jahr

⏰ Vollzeit

🔴 Experte

🤖 Machine-Learning-Entwickler

👻 Geisterscore 12%

Was es bedeutet: die Wahrscheinlichkeit, dass für diese Stelle niemand wirklich einstellt.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

Inworld AI

WebsiteLinkedInAlle Stellen

51 - 200 Mitarbeiter

Gegründet 2021

💼 Beratung

🤖 Künstliche Intelligenz

🔌 API

💰 €50.000.000 Series A im 2022-08

Consulting • Artificial Intelligence • API

Inworld AI ist eine auf Entwickler fokussierte Konversations-KI-Plattform, die eine echtzeitfähige, anbieterunabhängige Laufzeitumgebung und qualitativ hochwertige Sprachsynthese (TTS) für den Aufbau ausdrucksstarker Sprachagenten und virtueller Charaktere bietet. Sie ermöglicht mehrsprachige, latenzarme Sprachübertragung, sofortige Klonung, Emotionen und nonverbale Steuerungen sowie eine API-basierte Integrationsschicht mit Vorlagen und Pipelines, die für Skalierung und Kostenoptimierung ausgelegt sind. Die Plattform wird in Spielen, Medien, Kontaktzentren und anderen interaktiven Erlebnissen eingesetzt, um das Engagement zu steigern und Infrastrukturkosten zu senken.

Beschreibung

• Build first-party speech models and serve LLMs for realtime, consumer-facing applications • Develop and operate inference behind modular APIs for high-volume, realtime workloads • Optimize model serving for latency, throughput, and performance at scale • Containerize models and transition them from research into reliable production systems • Work with inference frameworks, distributed systems, Kubernetes, Ray, load balancing, and multi-GPU/multi-node infrastructure • Design benchmarks or prototypes to clarify ambiguous technical problems • Profile and optimize code running on NVIDIA GPUs • Contribute to systems programming, open-source inference engines, or technical write-ups • Collaborate with research and engineering teams to ship stable, high-impact systems

🎯 Anforderungen

• Deep understanding of modern serving frameworks and techniques such as vLLM or TRT-LLM • Hands-on experience with quantization, distillation, caching strategies, continuous batching, paged attention, and speculative decoding • Proficiency in C++, CUDA, Rust, or highly optimized Python • Ability to profile code and optimize NVIDIA GPU performance • Experience with Kubernetes, Ray, custom load balancing, multi-GPU/multi-node inference, and handling thousands of concurrent connections • Non-trivial systems programming projects, open-source contributions to major inference engines, or deep-dive technical write-ups • Ability to take a model from research through production deployment and reliability • PhD in CS, Physics, or Math, or equivalent practical experience building backend or ML systems • Must already have the legal right to work in the United Kingdom • Visa sponsorship is not available for this role

🏖️ Vorteile

• Equity • Benefits • Potential future U.S. visa and relocation support for relocation to the San Francisco Bay Area, subject to business needs and applicable legal and work authorization requirements

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen