Spezialist für AI-Sicherheit

🔥 vor 18 Minuten

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Mercor

WebsiteLinkedInAlle Stellen

51 - 200 Mitarbeiter

Gegründet 2023

🔥 Finanzierung im letzten Jahr

💰 €350.000.000 Series C - Mercor im 2025-10

Mercor ist ein Unternehmen, zu dem in der Eingabe keine Beschreibung vorliegt. Für eine präzise Zusammenfassung und die Auswahl geeigneter Branchen sind zusätzliche Informationen zu Produkten, Dienstleistungen, Zielkunden oder branchenspezifischen Schwerpunkten erforderlich.

Beschreibung

• Bewertung von KI-generierten Antworten hinsichtlich Sicherheit, sachlicher Richtigkeit, Einhaltung von Richtlinien und Gesamteindruck/Qualität • Überprüfung von Inhalten in den Bereichen Fehlinformationen, politische Beeinflussung, Selbstgefährdung, Gewalt, Cyber- und Biosicherheit sowie anderen sensiblen Bereichen • Anwendung und Verfeinerung von Evaluationsrubriken für RLHF, SFT und AI-Safety-Benchmarking • Identifikation unsicherer Ausgaben, Halluzinationen, Denkfehler und Richtlinienverstöße • Bereitstellung strukturierter Rückmeldungen zur Verbesserung des Modell-Alignments und der Sicherheitsleistung • Zusammenarbeit mit AI-Forschenden und Sicherheitsteams bei laufenden Evaluationsinitiativen

🎯 Anforderungen

• Bachelorabschluss oder höher in Journalismus, Kommunikation, Psychologie, Soziologie, Public Policy, Rechtswissenschaften, Biologie, Chemie, Informatik oder einem verwandten Fach • Mindestens 5 Jahre Berufserfahrung im Bereich AI Safety, Trust & Safety, Journalismus, Public Policy, wissenschaftlicher Forschung, Security oder in einem verwandten Bereich • Hervorragende schriftliche Englischkenntnisse • Kritisches Denkvermögen und analytische Fähigkeiten • Fähigkeit, nuancierte und richtlinienkritische Szenarien konsistent zu bewerten • Erfahrung mit AI Safety, RLHF, SFT, Trust & Safety oder AI-Evaluation • Vertrautheit mit Sicherheitsrichtlinien, Content Moderation oder der Entwicklung von Evaluationsrubriken • Erfahrung in der Überprüfung komplexer, risikoreicher oder mehrdeutiger Inhalte • Muss keine H1-B- oder STEM-OPT-Unterstützung benötigen; Mercor kann H1-B- oder STEM-OPT-Kandidaten nicht unterstützen

🏖️ Vorteile

• Vollständig remote (Fernarbeit) • Flexible Arbeitszeitgestaltung • Wöchentliche Zahlungen über Stripe oder Wise basierend auf erbrachten Leistungen • Projekte können je nach Bedarf und Leistung verlängert, verkürzt oder vorzeitig beendet werden • Möglichkeit zur Zusammenarbeit mit führenden AI-Forschenden, Ingenieuren und Sicherheitsteams • Mitarbeit an der Gestaltung der nächsten Generation von AI-Systemen • Empfehlungsprämien von bis zu 400 $ für jede erfolgreiche Vermittlung • Angemessene Vorkehrungen auf Anfrage