Principal Product Manager, AI Infrastructure, Orchestration

🕒 il y a 2 mois

🌐 États-Unis, Canada – Distant

🇺🇸 États-Unis – Télétravail 🇨🇦 Canada – Télétravail

🏄 California, Massachusetts, +1 états de plus – Distant

🏄 California – Remote 🍂 Massachusetts – Remote ☕ Washington – Remote

⏰ Temps Plein

🔴 Expert

✅ Responsable Produit

🦅 Parrain de Visa H1B

Cette entreprise a parrainé des visas H1B par le passé.

👻 Score fantôme 13%

Ce que ça veut dire : la probabilité que cette offre reste ouverte sans recrutement actif.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

DataRobot

Site WebLinkedInTous les Emplois

501 - 1000 employés

Fondée en 2012

💼 Conseil

🏥 Santé

🏭 Fabrication

Consulting • Healthcare • Manufacturing

DataRobot est un fournisseur leader d'applications et de plateformes d'IA conçues pour s'intégrer aux processus métier principaux. Leurs solutions permettent aux équipes de développer, déployer et gérer l'IA générative et prédictive à grande échelle. Les applications d'IA de DataRobot sont adaptées pour stimuler l'innovation et avoir un impact dans divers secteurs tels que l'énergie, les services financiers, la santé, la fabrication et le secteur public. L'entreprise se concentre sur la maximisation de l'impact commercial tout en minimisant les risques grâce à des fonctionnalités de gouvernance intégrées et des outils collaboratifs pour les équipes d'IA.

Description

• Own the deployment and workload API, including the resource model, lifecycle semantics, versioning, backward compatibility, and customer-facing error behavior • Define placement and capacity across nodes and accelerators, including quota, priority, and contention handling across tenants • Own autoscaling signals, cold-start and scale-to-zero economics, headroom policy, and cost-versus-latency trade-offs • Own agent runtime decisions involving execution location, duration, isolation, tool calls, and state persistence through restarts or evictions • Define ingress, routing, request-aware load balancing, tenancy boundaries, and private connectivity for model and agent endpoints • Own governance and audit capabilities covering deployments, invocations, policies, access control, and audit durability • Define metering, quota, tenant attribution, inference packaging, and pricing • Own reliability SLOs, error budgets, and operational diagnostics for degraded deployments • Hold the roadmap for the workload and agent runtime layer across two engineering pods • Align with product teams building on top of the platform • Operate through design reviews, API contracts, and production data

🎯 Exigences

• 6+ years in product management for infrastructure, developer platforms, or cloud services • At least 3 years working on Kubernetes-based or distributed systems products • Principal candidates bring 9+ years of experience and have owned a platform layer used by other product teams • Deep technical understanding of GPU and accelerator behavior, including topology-aware placement, fractional and time-sliced sharing, MIG, device plugins, driver and container-runtime plumbing, memory constraints, and utilization economics • Deep technical understanding of Kubernetes, including the API server and scheduler, controllers and CRDs, operators, admission and RBAC, device plugins, resource requests and limits, node pools, and pod scheduling failures • Multi-tenancy experience, including isolation models, noisy neighbors, quota and fairness, and security-review-ready tenancy designs • Experience owning a public or platform API • Technical writing and prototyping ability, including documentation, deep dives, public posts, API references, or working prototypes • Comfort operating with matrixed engineering teams and no direct reports • BS or MS in Computer Science or a closely related technical field, or equivalent hands-on experience as a software, platform, or infrastructure engineer • Nice to have: service networking depth, modern serving stacks such as vLLM, long-running and agentic workload patterns, customer-managed/air-gapped/sovereign deployments, regulated-industry experience, and CNCF or open-source contribution • Ability to build prototypes, evaluation harnesses, agents connected to real services, or other working tools independently

🏖️ Avantages

• Medical, Dental & Vision Insurance • Flexible Time Off Program • Paid Holidays • Paid Parental Leave • Global Employee Assistance Program (EAP) • Competitive pay • Reasonable accommodations for applicants with physical and mental disabilities