AI Safety Red Teamer

🕒 vor 18 Tagen

🇺🇸 Vereinigte Staaten – Remote

💵 $70 - $84 / Stunde

⏳ Vertrag

🟡 Mittelstufe

🟠 Senior

🤖 Künstliche Intelligenz

👻 Geisterscore 9%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Mercor

WebsiteLinkedInAlle Stellen

51 - 200 Mitarbeiter

Gegründet 2023

🔥 Finanzierung im letzten Jahr

💰 €350.000.000 Series C - Mercor im 2025-10

Mercor ist ein Unternehmen, zu dem in der Eingabe keine Beschreibung vorliegt. Für eine präzise Zusammenfassung und die Auswahl geeigneter Branchen sind zusätzliche Informationen zu Produkten, Dienstleistungen, Zielkunden oder branchenspezifischen Schwerpunkten erforderlich.

Beschreibung

• Design adversarial prompts to stress-test frontier AI models • Identify jailbreaks, unsafe behaviours, hallucinations, and policy failures • Evaluate model robustness across misinformation, cyber, biosecurity, fraud, political content, and other sensitive domains • Document vulnerabilities and contribute to safety benchmarking and red-teaming reports • Collaborate with AI researchers to improve model alignment, robustness, and safety • Work on projects focused on training and enhancing AI systems

🎯 Anforderungen

• Bachelor's degree or higher in Computer Science, Cybersecurity, Journalism, Communications, Psychology, Biology, Chemistry, Public Policy, or a related discipline • 5+ years of professional experience in AI Safety, AI Red Teaming, Trust & Safety, cybersecurity, investigative journalism, life sciences, or a related field • Strong analytical reasoning, prompt design, and written communication skills • Experience designing adversarial prompts or evaluating frontier AI systems • Preferred: Experience with AI Red Teaming, RLHF, SFT, AI Alignment, or Trust & Safety • Preferred: Familiarity with jailbreak testing, prompt engineering, or adversarial evaluation methodologies • Preferred: Expertise in one or more grey-area domains, including cyber, biosecurity, political content, misinformation, or scientific safety • Must be able to work as an independent contractor • Mercor is unable to support H1-B or STEM OPT candidates at this time

🏖️ Vorteile

• Fully remote role that can be completed on your own schedule • Weekly payments via Stripe or Wise based on services rendered • Projects can be extended, shortened, or concluded early depending on needs and performance • Opportunity to work on cutting-edge adversarial testing alongside leading AI researchers and safety teams • Opportunity to influence how AI systems respond to complex, real-world safety challenges • Referral payments of up to $340 for each successful referral, subject to referral limits • Reasonable accommodations available upon request