Principal Product Manager, AI Infrastructure, Orchestration

🕒 vor 8 Tagen

🌐 Vereinigte Staaten, Kanada – Remote

🇺🇸 Vereinigte Staaten – Remote 🇨🇦 Kanada – Remote

🏄 California, Massachusetts, +1 weitere Bundesländer – Remote

🏄 California – Remote 🍂 Massachusetts – Remote ☕ Washington – Remote

⏰ Vollzeit

🔴 Experte

✅ Produktmanager

🦅 H1B-Visum-Sponsor

Dieses Unternehmen hat in der Vergangenheit H1B-Visa gesponsert.

👻 Geisterscore 11%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

DataRobot

WebsiteLinkedInAlle Stellen

501 - 1000 Mitarbeiter

Gegründet 2012

💼 Beratung

🏥 Gesundheitswesen

🏭 Fertigung

Consulting • Healthcare • Manufacturing

DataRobot ist ein branchenführender Anbieter von KI-Anwendungen und Plattformen, die dafür entwickelt wurden, sich in zentrale Geschäftsprozesse zu integrieren. Ihre Lösungen ermöglichen es Teams, generative und prädiktive KI in großem Umfang zu entwickeln, bereitzustellen und zu verwalten. Die KI-Anwendungen von DataRobot sind darauf zugeschnitten, Innovation und Einfluss in verschiedenen Sektoren voranzutreiben, darunter Energie, Finanzdienstleistungen, Gesundheitswesen, Fertigung und der öffentliche Sektor. Das Unternehmen konzentriert sich darauf, den geschäftlichen Nutzen zu maximieren und gleichzeitig Risiken mit integrierten Governance-Funktionen und kollaborativen Tools für KI-Teams zu minimieren.

Beschreibung

• Own the deployment and workload API, including the resource model, lifecycle semantics, versioning, backward compatibility, and customer-facing error behavior • Define placement and capacity across nodes and accelerators, including quota, priority, and contention handling across tenants • Own autoscaling signals, cold-start and scale-to-zero economics, headroom policy, and cost-versus-latency trade-offs • Own agent runtime decisions involving execution location, duration, isolation, tool calls, and state persistence through restarts or evictions • Define ingress, routing, request-aware load balancing, tenancy boundaries, and private connectivity for model and agent endpoints • Own governance and audit capabilities covering deployments, invocations, policies, access control, and audit durability • Define metering, quota, tenant attribution, inference packaging, and pricing • Own reliability SLOs, error budgets, and operational diagnostics for degraded deployments • Hold the roadmap for the workload and agent runtime layer across two engineering pods • Align with product teams building on top of the platform • Operate through design reviews, API contracts, and production data

🎯 Anforderungen

• 6+ years in product management for infrastructure, developer platforms, or cloud services • At least 3 years working on Kubernetes-based or distributed systems products • Principal candidates bring 9+ years of experience and have owned a platform layer used by other product teams • Deep technical understanding of GPU and accelerator behavior, including topology-aware placement, fractional and time-sliced sharing, MIG, device plugins, driver and container-runtime plumbing, memory constraints, and utilization economics • Deep technical understanding of Kubernetes, including the API server and scheduler, controllers and CRDs, operators, admission and RBAC, device plugins, resource requests and limits, node pools, and pod scheduling failures • Multi-tenancy experience, including isolation models, noisy neighbors, quota and fairness, and security-review-ready tenancy designs • Experience owning a public or platform API • Technical writing and prototyping ability, including documentation, deep dives, public posts, API references, or working prototypes • Comfort operating with matrixed engineering teams and no direct reports • BS or MS in Computer Science or a closely related technical field, or equivalent hands-on experience as a software, platform, or infrastructure engineer • Nice to have: service networking depth, modern serving stacks such as vLLM, long-running and agentic workload patterns, customer-managed/air-gapped/sovereign deployments, regulated-industry experience, and CNCF or open-source contribution • Ability to build prototypes, evaluation harnesses, agents connected to real services, or other working tools independently

🏖️ Vorteile

• Medical, Dental & Vision Insurance • Flexible Time Off Program • Paid Holidays • Paid Parental Leave • Global Employee Assistance Program (EAP) • Competitive pay • Reasonable accommodations for applicants with physical and mental disabilities