LLMOps Platform Engineer

Stelle nicht auf LinkedIn

🕒 vor 3 Monaten

🇺🇸 Vereinigte Staaten – Remote

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🏗️ Plattformingenieur

🗣️🇺🇸🇬🇧 Englisch erforderlich

Jetzt Bewerben
Ähnliche Remote-Jobs finden

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Logo of SumerSports

SumerSports

11 - 50 Mitarbeiter

Gegründet 2022

⚽ Sport

🤖 Künstliche Intelligenz

☁️ SaaS

Sports • Artificial Intelligence • SaaS

SumerSports ist ein auf Fußball (NFL und NCAA) spezialisiertes, KI-gestütztes Sportanalytik- und Technologieunternehmen. Mit über 500 Jahren NFL-Erfahrung, kombiniert mit maschinellem Lernen, bietet SumerSports Produkte wie SūmerBrain für Filmabruf und mehrschichtige Daten, SūmerLive für Spieltracking, SūmerNFL und SūmerNCAA für Kaderaufbau und Teamoptimierung sowie eine von Spielern verifizierte Plattform für Metriken und Talentpräsentationen. Das Unternehmen produziert Draft-Guides, analytikgetriebene Inhalte mit ehemaligen Scouts und Mitgliedern der Hall of Fame sowie Tools, die Spielern, Teams und Fans helfen, das Scouting, Kaderentscheidungen und die Leistungsbewertung zu verbessern.

Beschreibung

• Build and operate the LLM Platform: Develop model routing, prompt registry, and orchestration services for multi-model workflows. • Integrate external LLM APIs (OpenAI, Anthropic, Mistral) and internal finetuned models. • Enable fast, safe experimentation: Implement automated evaluation pipelines (offline + online) with golden sets, rubrics, and regression detection. • Support CI/CD for prompt and model changes, with rollback and approval gates. • Collaborate cross-functionally: Partner with product pods to instrument RAG pipelines and prompt versioning. • Work with deep learning and data teams to integrate structured and unstructured retrieval into LLM workflows. • Optimize performance and cost: Profile latency, token usage, and caching strategies. • Build observability and monitoring for LLM calls, embeddings, and agent behaviors. • Ensure reliability and safety: Implement guardrails (toxicity, PII filters, jailbreak detection). Maintain policy enforcement and audit logging for AI usage.

🎯 Anforderungen

• 5+ years of experience in applied ML, NLP, or ML infrastructure engineering • Strong coding skills in Python and experience with frameworks like LangChain, LlamaIndex, or Haystack • Solid understanding of retrieval-augmented generation (RAG), embeddings, vector databases, and evaluation methodologies • Experience deploying models or AI systems in production environments (AWS, GCP, or Azure) • Familiarity with prompt management, LLM observability, and CI/CD automation for AI workflows

🏖️ Vorteile

• Competitive Salary and Bonus Plan • Comprehensive health insurance plan • Retirement savings plan (401k) with company match • Remote working environment • A flexible, unlimited time off policy • Generous paid holiday schedule - 13 in total including Monday after the Super Bowl

Jetzt Bewerben

Ähnliche Jobs

🕒 vor 3 Monaten

Clarity AI

201 - 500

🤖 Künstliche Intelligenz

☁️ SaaS

💸 Finanzen

Senior GenAI Platform Staff Engineer responsible for creating scalable AI platforms at Clarity AI. Designing robust infrastructure for machine learning deployment and management with high efficiency.

🇺🇸 Vereinigte Staaten – Remote

💰 €50.000.000 Venture Round - Clarity AI im 2021-12

⏰ Vollzeit

🟠 Senior

🏗️ Plattformingenieur

🗣️🇺🇸🇬🇧 Englisch erforderlich

🕒 vor 4 Monaten

SOCKET

51 - 200

📡 Telekommunikation

Senior Platform Engineer developing reliable infrastructure for Socket as they scale. Collaborating closely with engineering teams to enhance system performance and deployment processes.

🗣️🇺🇸🇬🇧 Englisch erforderlich

🕒 vor 4 Monaten

dv01

51 - 200

💸 Finanzen

💳 Fintech

☁️ SaaS

Build and operate AI infrastructure at dv01 to accelerate cloud-native AI development. Collaborate with teams to ensure safe and efficient deployment of AI-powered services.

🇺🇸 Vereinigte Staaten – Remote

💵 $185.000 - $200.000 / Jahr

⏰ Vollzeit

🟠 Senior

🔴 Experte

🏗️ Plattformingenieur

🦅 H1B-Visum-Sponsor

info

🗣️🇺🇸🇬🇧 Englisch erforderlich

🕒 vor 4 Monaten

Factorial

501 - 1000

👥 HR Tech

☁️ SaaS

🏢 Unternehmen

Databricks AI Platform Engineer focusing on software engineering and ML deployment with a strong influence on AI project delivery. Located in a remote-first company with emphasis on innovation and collaboration.

🗣️🇺🇸🇬🇧 Englisch erforderlich

🗣️🇪🇸 Spanisch erforderlich

🕒 vor 4 Monaten

Fanatics, Inc.

1001 - 5000

🎮 Gaming

🛒 Einzelhandel

🛍️ eCommerce

Senior Platform Engineer working on cloud infrastructure, Kubernetes platforms, and internal developer tooling for Fanatics Betting & Gaming. Collaborating with various teams to enhance developer productivity.

🇺🇸 Vereinigte Staaten – Remote

💵 $129.200 - $183.600 / Jahr

⏰ Vollzeit

🟠 Senior

🏗️ Plattformingenieur

🗣️🇺🇸🇬🇧 Englisch erforderlich