Senior Product Manager – LLM Inference

🕒 vor 11 Tagen

🇬🇧 Vereinigtes Königreich – Remote

⏰ Vollzeit

🟠 Senior

✅ Produktmanager

👻 Geisterscore 25%

Was es bedeutet: die Wahrscheinlichkeit, dass für diese Stelle niemand wirklich einstellt.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

Runware

WebsiteLinkedInAlle Stellen

11 - 50 Mitarbeiter

Gegründet 2023

🤖 Künstliche Intelligenz

🔌 API

📱 Medien

Artificial Intelligence • API • Media

Runware ist eine flexible generative KI-Plattform, die sich auf die Erstellung hochqualitativer Medien für Bilder und Videos über eine erschwingliche und schnelle API spezialisiert hat. Sie ist in der Lage, anspruchsvolle Aufgaben wie Bildgenerierung, Videoinferenz, Upscaling und Hintergrundentfernung auszuführen, was sie zu einem unverzichtbaren Werkzeug für Entwickler macht, die ihre Projekte mit KI-Technologie verbessern möchten. Angetrieben von einem maßgeschneiderten Sonic Inference Engine™ und erneuerbarer Energie, gewährleistet Runware eine schnelle und effiziente Mediengenerierung, ohne dass komplexe Infrastrukturen oder maschinelles Lernen erforderlich sind.

Beschreibung

• Own the LLM inference product strategy and roadmap across model availability, API capabilities, production readiness, and customer adoption • Drive customer discovery and product-market fit with developers, AI teams, and technical decision-makers • Own the model catalog and lifecycle, including model discovery, evaluation, launches, deprecations, selection, serving, and routing • Shape developer experience and API capabilities, including compatibility, SDKs, documentation, streaming, tool calling, structured outputs, caching, batch inference, OpenAI Chat Completions, and Anthropic Messages formats • Define production inference requirements for latency, time to first token, throughput, concurrency, availability, serving efficiency, dedicated capacity, rate limits, routing, fallbacks, and observability • Drive adoption and commercial growth through positioning, pricing, packaging, technical evaluations, production usage, and dedicated inference commitments • Translate enterprise needs into scalable capabilities for data residency, retention controls, service commitments, and other production requirements • Write requirements, prototype solutions, test APIs, reproduce customer issues, resolve technical constraints, and deliver high-quality releases • Track activation, production usage, retention, expansion, revenue, gross margin, and service quality to refine priorities and measure impact • Partner with Engineering, Design, Security, Sales, Marketing, Partnerships, and the Serverless & Compute Product Manager

🎯 Anforderungen

• Proven product ownership in a technical, developer-facing environment, including API products, developer platforms, AI infrastructure, or similarly complex offerings • Experience leading products from strategy and development through launch, adoption, and commercial growth • Strong understanding of production LLM inference, including model capabilities and serving trade-offs involving output quality, context length, token consumption, latency, throughput, reliability, and cost • Deep understanding of developer experience and API products, including API design, compatibility, migration, SDKs, documentation, and model capabilities • Strong commercial and product judgment concerning customer requirements, technical constraints, market opportunities, pricing, and unit economics • Experience working directly with technical customers, developers, and technical decision-makers • Hands-on technical aptitude with API testing, product behavior analysis, usage data, prototypes, and implementation trade-offs • Strong execution and cross-functional leadership, including navigating ambiguity, communicating decisions, aligning stakeholders, and accountability for outcomes • Strong differentiators include experience with LLM inference APIs, model-serving platforms, AI infrastructure, GPU inference, batching, quantization, KV caching, capacity planning, vLLM, SGLang, TensorRT-LLM, LLM evaluation, benchmarking, production applications, usage-based pricing, token metering, billing systems, data security, data residency, observability, service reliability, software engineering, machine learning engineering, infrastructure, or developer tooling

🏖️ Vorteile

• Remote-first work arrangement with in-person meetings twice a year • Core hours for cooperative working and calls, with flexible scheduling outside core hours • Generous paid time off including vacation, sick days, and public holidays • Meaningful stock options • Paid maternity, paternity, and caregiver leave • Twice-yearly company retreats • Downtime after major release cycles to unplug and recharge

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen