Senior Responsible AI Researcher

Stelle nicht auf LinkedIn

🕒 vor 16 Tagen

🏄 California – Remote

🏄 California – Remote

⏰ Vollzeit

🟠 Senior

🧠 KI-Forscher

👻 Geisterscore 13%

Was es bedeutet: die Wahrscheinlichkeit, dass für diese Stelle niemand wirklich einstellt.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

ActiveFence

WebsiteLinkedInAlle Stellen

201 - 500 Mitarbeiter

🔒 Cybersecurity

🤖 Künstliche Intelligenz

💰 €400.000.000 Series B im 2021-07

Cybersecurity • Artificial Intelligence

ActiveFence ist ein Anbieter für Vertrauen und Sicherheit für Online-Plattformen und schützt Plattformen und ihre Nutzer vor böswilligem Verhalten und Inhalten. Vertrauens- und Sicherheitsteams jeder Größe verlassen sich auf ActiveFence, um ihre Nutzer vor einem breiten Spektrum an Online-Gefahren, unerwünschten Inhalten und schädlichem Verhalten zu schützen, darunter Kindersicherheit und Ausbeutung, Desinformation, Hassrede, Terror, Nacktheit, Betrug und mehr. Wir bieten eine vollständige Palette von Fähigkeiten mit unserer tiefgehenden Informationsforschung, KI-gestützten Erkennung schädlicher Inhalte und unserer Plattform zur Moderation von Online-Inhalten. ActiveFence schützt täglich weltweit über drei Milliarden Nutzer in über 100 Sprachen und ermöglicht es Menschen, sicher und erfolgreich online zu interagieren.

Beschreibung

• Lead state-of-the-art research initiatives at the intersection of frontier models, Trust & Safety, model evaluation, and adversarial robustness • Drive self-initiated research and design evaluation methodologies for emerging risks including persuasion, manipulation, sycophancy, and agentic safety • Build safety benchmarks across Generative AI modalities: Text, Image, Multimodal, and Autonomous Agents • Serve as a key technical authority collaborating with AI labs, academic institutions, and enterprise partners • Design, build, and deploy evaluation frameworks, benchmarks, and Agentic Safety Gyms • Develop adversarial prompting methodologies, red-teaming strategies, and behavioral suites to stress-test LLMs, Multimodal systems, and AI Agents • Investigate emerging safety risks including bias and jailbreaking tactics across multimodal and autonomous architectures • Lead collaborative research projects with academic institutions and industry partners • Represent the organization at international conferences, AI safety summits, and industry events • Publish research findings in top AI and safety venues • Partner with Product, Engineering, Go-To-Market, Policy, and Delivery teams to translate research into safety products and client-facing offerings • Engage technical stakeholders and enterprise clients to translate safety and governance requirements into research questions, experiments, and evaluation suites • Provide technical leadership and mentorship to junior researchers, data scientists, and engineers • Integrate social science, policy, and technical perspectives into safety tooling and methodologies

🎯 Anforderungen

• PhD in Science, Technology and Society Studies (STS), Machine Learning, AI Ethics, Social Data Science, or a closely related research domain • Strong portfolio of peer-reviewed publications and conference presentations at top-tier venues (e.g., NeurIPS, ICML, ICLR, ACL, IEEE, CVPR, or dedicated AI Safety conferences) • Substantial experience in AI Safety, Responsible AI (RAI), Trust & Safety, or Model Evaluation • Strong hands-on capabilities in Python and modern ML/DL frameworks (e.g., PyTorch, Transformers) • Deep working knowledge of foundation models, including LLMs, Text-to-Image, Multimodal systems, agents, reasoning systems, and current safety mitigation techniques • Proven experience designing datasets, benchmark suites, red-teaming protocols, or synthetic simulation platforms • Proven track record of self-initiating research projects, establishing external partnerships, and shaping technical vision • Excellent verbal and written communication skills, including communicating complex technical concepts to non-technical stakeholders, executives, and research peers • Ability to work across technical data science, social science paradigms, and product execution • Prior employment, consulting, advisory, or formal research collaboration with frontier AI labs or leading safety research collectives (preferred/desirable) • Experience in domain-specific safety applications such as election integrity, psychological manipulation, or agentic behavioral safety suites (preferred/desirable)

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen