Principal Machine Learning Engineer, Inference

🕒 il y a 16 jours

🇬🇧 Royaume-Uni – Télétravail

💵 £140 000 - £200 000 / an

⏰ Temps Plein

🔴 Expert

🤖 Ingénieur Machine Learning

👻 Score fantôme 12%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Inworld AI

Site WebLinkedInTous les Emplois

51 - 200 employés

Fondée en 2021

💼 Conseil

🤖 Intelligence artificielle

🔌 API

💰 €50 000 000 Series A en 2022-08

Consulting • Artificial Intelligence • API

Inworld AI est une plateforme d'IA conversationnelle axée sur les développeurs qui offre une infrastructure adaptable en temps réel, indépendante du fournisseur, ainsi qu'une synthèse vocale de haute qualité pour créer des agents vocaux expressifs et des personnages virtuels. Elle propose une voix en streaming multilingue à faible latence, des clones instantanés, des contrôles émotionnels et non verbaux, et une couche d'intégration via API avec des modèles et des pipelines optimisés pour l'échelle et le coût. La plateforme est utilisée dans les jeux, les médias, les centres de contact et d'autres expériences interactives pour accroître l'engagement et réduire les coûts d'infrastructure.

Description

• Build first-party speech models and serve LLMs for realtime, consumer-facing applications • Develop and operate inference behind modular APIs for high-volume, realtime workloads • Optimize model serving for latency, throughput, and performance at scale • Containerize models and transition them from research into reliable production systems • Work with inference frameworks, distributed systems, Kubernetes, Ray, load balancing, and multi-GPU/multi-node infrastructure • Design benchmarks or prototypes to clarify ambiguous technical problems • Profile and optimize code running on NVIDIA GPUs • Contribute to systems programming, open-source inference engines, or technical write-ups • Collaborate with research and engineering teams to ship stable, high-impact systems

🎯 Exigences

• Deep understanding of modern serving frameworks and techniques such as vLLM or TRT-LLM • Hands-on experience with quantization, distillation, caching strategies, continuous batching, paged attention, and speculative decoding • Proficiency in C++, CUDA, Rust, or highly optimized Python • Ability to profile code and optimize NVIDIA GPU performance • Experience with Kubernetes, Ray, custom load balancing, multi-GPU/multi-node inference, and handling thousands of concurrent connections • Non-trivial systems programming projects, open-source contributions to major inference engines, or deep-dive technical write-ups • Ability to take a model from research through production deployment and reliability • PhD in CS, Physics, or Math, or equivalent practical experience building backend or ML systems • Must already have the legal right to work in the United Kingdom • Visa sponsorship is not available for this role

🏖️ Avantages

• Equity • Benefits • Potential future U.S. visa and relocation support for relocation to the San Francisco Bay Area, subject to business needs and applicable legal and work authorization requirements

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV