Senior LLM-Ops Engineer

🕒 vor 1 Monat

🌏 Überall auf der Welt

⏰ Vollzeit

🟠 Senior

⚙️ Operations

👻 Geisterscore 17%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

CINC Systems

WebsiteLinkedInAlle Stellen

201 - 500 Mitarbeiter

Gegründet 2005

☁️ SaaS

🏠 Immobilien

🤝 B2B

💰 Private Equity Round - CINC Systems im 2023-12

SaaS • Real Estate • B2B

CINC Systems ist eine cloudbasierte All-in-One-Softwareplattform für die Verwaltung von Gemeinschaftsverbänden (HOAs und COAs), die Verwaltungsunternehmen, Vorständen und Hausbesitzern hilft, Abläufe zu optimieren und das Bewohnererlebnis zu verbessern. Die Plattform bietet Finanzmanagement und -überwachung (einschließlich Online-Zahlungen und ein sicheres Zahlungsportal), KI-gesteuerte Berichterstattung und Prognosen (Cephai), Kommunikations- und Bewohnerengagement-Tools, Online-Abstimmungen und -Umfragen, Wartungs-/Arbeitsauftragskoordination, Compliance-Tracking sowie zentrale Daten und Einblicke. CINC richtet sich an professionelle Verbandsverwaltungsfirmen und Hausbesitzervorstände mit Automatisierung, Sicherheit und Skalierbarkeit; das Unternehmen berichtet über 1. 000+ Kunden im Bereich Verbandsmanagement, 51. 000+ betreute Hausgemeinschaften, 6M+ Wohneinheiten und über 11 Milliarden USD+ jährlich abgewickelte Zahlungen.

Beschreibung

• LLM-Orchestrierungs- und Laufzeitsysteme für zuverlässige KI-Workflows mit geringer Latenz entwerfen und betreiben • Evaluierungspipelines aufbauen und pflegen, die Qualität, Regressionen und geschäftliche Auswirkungen LLM-gestützter Funktionen messen • Observability für KI-Systeme implementieren, einschließlich Tracing, Metriken und Feedbackschleifen auf Prompt-, Agenten- und Workflow-Ebene • Strategien für das Kostenmanagement von LLMs etablieren, einschließlich Budgetierung, Rate Limiting, Caching und Optimierung • Mit KI- und Produktentwicklerinnen und -entwicklern zusammenarbeiten, um KI-Funktionen sicher und schrittweise produktionsreif zu machen • Sicherheits-, Datenschutz- und Richtlinien für den Umgang mit Daten in KI-Workflows definieren und durchsetzen • Experimente mit neuen Modellen und Tools unterstützen und gleichzeitig die Stabilität der Produktionsumgebung sicherstellen • Bereitschaft und Reaktionsfähigkeit bei Vorfällen im Zusammenhang mit Ausfällen und Leistungseinbußen von KI-Systemen verbessern • Entscheidungen über Eigenentwicklung oder Zukauf von LLM-Tools und -Plattformen mitgestalten • Entwicklerinnen und Entwickler mentorieren und Best Practices für den Betrieb von KI-Systemen in großem Maßstab etablieren

🎯 Anforderungen

• Mindestens 8 Jahre Erfahrung in Software Engineering, Platform Engineering oder DevOps • Praktische Erfahrung mit dem Betrieb LLM-gestützter Systeme in der Produktion • Vertrautheit mit LLM-Anbietern und Orchestrierungs-Frameworks • Sehr gute Kenntnisse verteilter Systeme, von APIs und cloudnativen Architekturen • Erfahrung mit dem Aufbau von Observability- und Evaluierungssystemen für komplexe Workflows • Praktische Kenntnisse der Kosten- und Leistungsoptimierung in Cloud-Umgebungen • Erfahrung mit ereignisgesteuerten Architekturen und asynchronen Workflows • Nachweisliche Fähigkeit, durch Überzeugungskraft statt durch formale Weisungsbefugnis zu führen • Sehr strukturierte Denkweise und ausgeprägte Problemlösungskompetenz • Klare Kommunikationsfähigkeit sowie die Fähigkeit, technische und nichttechnische Stakeholdern die betrieblichen Zielkonflikte von KI zu erläutern • Sicheres Arbeiten über Teamgrenzen hinweg in einem dynamischen, sich stetig weiterentwickelnden Umfeld • Ausgeprägte Umsetzungsorientierung mit Fokus auf Zuverlässigkeit und Ergebnissen • Überzeugung, dass KI grundlegende Prinzipien des Engineerings verstärkt und nicht ersetzt • Lernorientierte Haltung und Bereitschaft, sich über sich weiterentwickelnde KI-Tools und -Praktiken auf dem Laufenden zu halten • Pragmatische und auch unter Druck ruhige Arbeitsweise, insbesondere bei Vorfällen • Ausgeprägtes Bewusstsein für Kundinnen und Kunden sowie Verständnis für die realen Auswirkungen des Verhaltens von KI-Systemen