Manager/in für Trust & Safety (Produktsicherheit) – vollständig remote in Europa

Stelle nicht auf LinkedIn

🔥 vor wenigen Sekunden

🇪🇺 Europa – Remote

💵 $0 - $125.000 / Jahr

⏳ Vertrag

🟡 Mittelstufe

🟠 Senior

✅ Produktmanager

👻 Geisterscore 21%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

EverAI

WebsiteLinkedInAlle Stellen

51 - 200 Mitarbeiter

Gegründet 2023

🤖 Künstliche Intelligenz

🎮 Gaming

Artificial Intelligence • Gaming • Entertainment

EverAI ist ein Pionierunternehmen im Bereich Conversational AI, das die Entertainment-Landschaft transformiert. Durch die Entwicklung von AI-Erlebnissen für Rollenspiel, Gaming, soziale Interaktionen und kreatives Schreiben bereichert EverAI Storytelling und Gaming mit fesselnden Interaktionen. Die AI-Companions des Unternehmens vertiefen Rollenspielreisen, bereichern Gaming-Erlebnisse mit dynamischen Charakteren und unterstützen Autorinnen und Autoren mit kreativen Vorschlägen – mit dem Ziel, zu revolutionieren, wie Geschichten erzählt und Spiele gespielt werden.

Beschreibung

• Verantwortung für die Produkt- und technische Umsetzung von Compliance- und Sicherheitsinitiativen auf den EverAI-Plattformen • Übersetzung von Sicherheitsrichtlinien, rechtlichen Anforderungen, Erkenntnissen aus Vorfällen und Nutzerfeedback in Produktanforderungen, Abnahmekriterien und Engineering-Aufgaben • Steuerung von Initiativen von der Problemdefinition über Implementierung, Tests und Launch bis hin zur kontinuierlichen Verbesserung • Weiterentwicklung der internen Moderationssysteme, einschließlich der proprietären LLM-Technologie EverGuard • Zusammenarbeit mit Engineering- und AI/ML-Teams an Erkennungsfunktionen, Moderationsregeln, Schwellenwerten und Maßnahmen für Nutzereingaben und KI-generierte Ausgaben • Leitung des Lebenszyklus von Partnerschaften mit externen Sicherheitsanbietern – von der Bedarfsermittlung und Anbieterbewertung über Implementierung, Tests und Rollout bis hin zum Performance-Management • Aufbau von Sicherheits-Dashboards und regelmäßiger QA zur Identifizierung neu auftretender Probleme und zur Sicherstellung der Wirksamkeit von Sicherheitsmaßnahmen • Verantwortung für Red Teaming und adversariales Testing von Moderationssystemen und Produktschutzmaßnahmen • Nachverfolgung von Testergebnissen bis zur Behebung, erneuten Prüfung und Schließung • Etablierung und Durchführung von Trust-&-Safety-Reviews für neue Funktionen sowie wesentliche Änderungen an bestehenden Funktionen, Modellen und Integrationen • Identifizierung vorhersehbarer Fehl- und Missbrauchsszenarien, betroffener Nutzergruppen und geeigneter Schutzmaßnahmen bereits während des Produktdesigns • Koordination der Reaktionen von Produkt- und Engineering-Teams auf schwerwiegende Sicherheitsvorfälle gemeinsam mit den Kolleginnen und Kollegen aus Incident Management, Policy und Nutzerbetreuung • Direkte Zusammenarbeit mit dem CTO und der Leitung für Recht und Sicherheit • Mitgestaltung des Aufbaus der Produktfunktion für Trust & Safety

🎯 Anforderungen

• Erfahrung mit datenbasierten Produktentscheidungen anhand von Kennzahlen • Erfahrung in der Durchführung von A/B-Tests, Produktexperimenten, vertieften Datenanalysen oder schlanker Nutzerforschung • Fähigkeit, Risiken im Zusammenhang mit nutzergenerierten Inhalten, Transaktionen und Interaktionen zu bewerten • Fähigkeit, Risiken in Richtlinien, Tracker/Dashboards und strategische Planung im Einklang mit rechtlichen und ethischen Standards zu überführen • Verständnis skalierbarer Content-Moderation, einschließlich Automatisierung, Machine Learning, menschlicher Prüfung und Nutzer meldungen • Erfahrung mit Trust-&-Safety- sowie Compliance-Anforderungen für kundenorientierte Produkte • Funktionsübergreifende Erfahrung in der Zusammenarbeit mit Engineering, Recht, Operations und Kundensupport • Sehr gute Englischkenntnisse und sicherer Umgang mit der englischen Sprache • Sicherer Umgang mit AI-Tools und Fähigkeit, diese gewinnbringend einzusetzen • Fähigkeit, Tools und Integrationen von Drittanbietern zu testen und eigenständig zu verwalten • Souveräner Umgang mit unklaren Situationen sowie die Fähigkeit, eigenständig zu recherchieren, zu entwickeln, zu testen und zu lernen • Bereitschaft und Fähigkeit, Produkte auf Basis unzensierter Modelle und Inhalte zu entwickeln • Bereitschaft, unzensierte KI-generierte Inhalte und NSFW-Material zu prüfen und zu besprechen • Berufserfahrung oder Interesse im Bereich KI sind von Vorteil • Eine vorherige Ausbildung oder ein Studium im Bereich Recht/Compliance sind von Vorteil • Erfahrung mit kundenorientierten Funktionen, insbesondere in den Bereichen Unterhaltung oder Gaming, sind von Vorteil • Bereitschaft und Fähigkeit, im Land des Wohnsitzes auf B2B-Vertragsbasis zu arbeiten

🏖️ Vorteile

• Vollständig ortsunabhängige Remote-Arbeit • Vier Wochen (20 Arbeitstage) bezahlter Urlaub pro Jahr • Jährliches persönliches Firmentreffen • Monatlicher Zuschuss von 100 USD zu den Kosten der Krankenversicherung • Unbegrenzte 1:1-Sitzungen mit Psychologinnen und Psychologen sowie Lifestyle-Expertinnen und -Experten über OpenUp, auch für bis zu drei Familienmitglieder • Budget für Coworking-Spaces bis zu zweimal monatlich in Höhe von 35 EUR bzw. 40 USD pro Besuch • Weiterbildungsbudget für Kurse, Bücher, Konferenzen, Veranstaltungen oder Zertifizierungen • Firmenlaptop • Monitorbudget bis zu 250 USD • Budget für Tastatur, Maus, Mikrofon und Kopfhörer bis zu 150 USD • Premium-Zugang zu ChatGPT, Cursor, Hugging Face, Claude Code und weiteren Tools • Flexible B2B-Vertragsstruktur • Jährliche Vergütung abhängig von Positionslevel, Verantwortungsumfang, Standort und Marktdaten