Trust-&-Safety-Produktmanager (vollständig remote – Deutschland)

🔥 vor 4 Minuten

🇩🇪 Deutschland – Remote

💵 $95.000 - $125.000 / Jahr

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

✅ Produktmanager

👻 Geisterscore 21%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

EverAI

WebsiteLinkedInAlle Stellen

51 - 200 Mitarbeiter

Gegründet 2023

🤖 Künstliche Intelligenz

🎮 Gaming

Artificial Intelligence • Gaming • Entertainment

EverAI ist ein Pionierunternehmen im Bereich Conversational AI, das die Entertainment-Landschaft transformiert. Durch die Entwicklung von AI-Erlebnissen für Rollenspiel, Gaming, soziale Interaktionen und kreatives Schreiben bereichert EverAI Storytelling und Gaming mit fesselnden Interaktionen. Die AI-Companions des Unternehmens vertiefen Rollenspielreisen, bereichern Gaming-Erlebnisse mit dynamischen Charakteren und unterstützen Autorinnen und Autoren mit kreativen Vorschlägen – mit dem Ziel, zu revolutionieren, wie Geschichten erzählt und Spiele gespielt werden.

Beschreibung

• Verantwortung für die Produkt- und technische Umsetzung von Compliance- und Sicherheitsinitiativen auf allen Plattformen • Übersetzung von Sicherheitsrichtlinien, rechtlichen Anforderungen, Erkenntnissen aus Vorfällen und Nutzerfeedback in Produktanforderungen, Abnahmekriterien und Entwicklungsaufgaben • Steuerung von Initiativen von der Problemdefinition über Implementierung, Tests und Launch bis zur kontinuierlichen Verbesserung • Verbesserung der internen Moderationssysteme, einschließlich der proprietären LLM-Technologie EverGuard • Zusammenarbeit mit Engineering und AI/ML an Erkennungsfunktionen, Moderationsregeln, Schwellenwerten und Maßnahmen für Nutzereingaben und KI-generierte Ausgaben • Leitung des Lebenszyklus von Partnerschaften und Integrationen mit Drittanbietern im Bereich Sicherheit • Aufbau von Sicherheits-Dashboards und regelmäßigen Qualitätssicherungsprozessen • Proaktive Identifizierung neu auftretender Probleme, Verhinderung schädlicher Inhalte und Messung der Sicherheitsleistung • Verantwortung für Red-Teaming und adversariales Testen von Moderationssystemen und Produktschutzmaßnahmen • Nachverfolgung von Testergebnissen bis zur Behebung, erneuten Prüfung und Schließung • Einrichtung und Durchführung von Trust-&-Safety-Prüfungen für neue Funktionen sowie wesentliche Änderungen an bestehenden Funktionen, Modellen und Integrationen • Identifizierung vorhersehbaren Missbrauchs, betroffener Nutzer und geeigneter Schutzmaßnahmen bereits während des Produktdesigns • Koordination der Reaktionen von Produkt- und Engineering-Teams auf schwerwiegende Sicherheitsvorfälle • Direkte Zusammenarbeit mit dem CTO sowie dem Leiter für Recht und Sicherheit • Zusammenarbeit mit Compliance, Engineering, AI/ML, Produktmanagement, Kundensupport, Recht und Operations

🎯 Anforderungen

• Erfahrung mit datenbasierten Produktentscheidungen unter Einsatz von Kennzahlen, A/B-Tests, Produktexperimenten, detaillierten Datenanalysen oder schlanker Nutzerforschung • Fähigkeit zur Bewertung von Risiken im Zusammenhang mit nutzergenerierten Inhalten, Transaktionen und Interaktionen • Erfahrung mit Content-Moderation, Automatisierung, Machine Learning, manueller Prüfung und Nutzer-Meldesystemen • Erfahrung in der engen Zusammenarbeit mit Trust & Safety sowie mit Compliance-Anforderungen für kundenorientierte Produkte • Erfahrung in der Überführung von Sicherheitsanforderungen in die Produktimplementierung • Funktionsübergreifende Zusammenarbeit mit Engineering-, Rechts-, Operations- und Kundensupport-Teams • Verhandlungssichere Englischkenntnisse und sicherer Umgang mit der englischen Sprache • Sicherer Umgang mit KI-Tools und deren gezielter Nutzung • Fähigkeit, Tests durchzuführen und Gespräche mit Drittanbieter-Tools und Integrationen selbstständig zu führen • Bereitschaft und Sicherheit bei der Entwicklung von Produkten auf Grundlage unzensierter Modelle und Inhalte • Bereitschaft und Sicherheit bei der Prüfung und Besprechung unzensierter KI-generierter Inhalte sowie von NSFW-Material • Berufserfahrung oder Interesse an KI von Vorteil • Erfahrung mit kundenorientierten Funktionen, insbesondere im Unterhaltungs- oder Gaming-Bereich, von Vorteil • Eine frühere Ausbildung oder Weiterbildung im Bereich Recht oder Compliance von Vorteil • Motivation, im Bereich der KI-Begleitung für Erwachsene ab 18 Jahren zu arbeiten

🏖️ Vorteile

• 4 Wochen (20 Arbeitstage) bezahlter Urlaub pro Jahr • Jährliches persönliches Treffen • Monatlicher Zuschuss von 100 USD zu den Kosten der Krankenversicherung • Unbegrenzte Einzelgespräche mit Psychologen und Experten für Lebensführung über OpenUp, auch für bis zu drei Familienmitglieder • Budget für Coworking-Arbeitsplätze bis zu zweimal monatlich (35 EUR / 40 USD pro Besuch) • Weiterbildungsbudget für Kurse, Bücher, Konferenzen, Veranstaltungen oder Zertifizierungen • Firmenlaptop • Budget für einen Monitor bis zu 250 USD • Budget für Tastatur, Maus, Mikrofon und Kopfhörer bis zu 150 USD • Premium-Zugang zu ChatGPT, Hugging Face, Claude Code und weiteren für die Tätigkeit erforderlichen Tools • Vollständig remote aus beliebigem Ort • Flexible Vertragsgestaltung, bevorzugt auf B2B-Basis