GenAI Safety Tech Lead

Stelle nicht auf LinkedIn

🕒 vor 4 Tagen

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

ActiveFence

WebsiteLinkedInAlle Stellen

201 - 500 Mitarbeiter

🔒 Cybersecurity

🤖 Künstliche Intelligenz

💰 €400.000.000 Series B im 2021-07

Cybersecurity • Artificial Intelligence

ActiveFence ist ein Anbieter für Vertrauen und Sicherheit für Online-Plattformen und schützt Plattformen und ihre Nutzer vor böswilligem Verhalten und Inhalten. Vertrauens- und Sicherheitsteams jeder Größe verlassen sich auf ActiveFence, um ihre Nutzer vor einem breiten Spektrum an Online-Gefahren, unerwünschten Inhalten und schädlichem Verhalten zu schützen, darunter Kindersicherheit und Ausbeutung, Desinformation, Hassrede, Terror, Nacktheit, Betrug und mehr. Wir bieten eine vollständige Palette von Fähigkeiten mit unserer tiefgehenden Informationsforschung, KI-gestützten Erkennung schädlicher Inhalte und unserer Plattform zur Moderation von Online-Inhalten. ActiveFence schützt täglich weltweit über drei Milliarden Nutzer in über 100 Sprachen und ermöglicht es Menschen, sicher und erfolgreich online zu interagieren.

Beschreibung

• Developing adversarial and risky prompt strategies across several areas of abuse to expose potential vulnerabilities in models. • Owning projects end-to-end - from initial planning and execution through quality assurance to final delivery - with accountability for outcomes. • Mentoring junior analysts and promoting a culture of knowledge exchange and continual learning within the team. • Managing extensive datasets across multiple languages and areas of abuse, ensuring precision and meticulous attention to detail. • Ongoing investigation into new tactics for circumventing foundational models' safety measures. • Partnering with cross-functional teams - engineering, product, policy - to tackle new challenges and craft forward-thinking strategies and resolutions.

🎯 Anforderungen

• 5+ years of experience in AI Safety and/or Responsible AI and/or Trust and Safety. • Proven track record of managing projects end-to-end, from planning and execution through quality assurance to final delivery. • Experience leading projects with multiple stakeholders in fast-paced, variable environments. • Experience working directly with clients, including attending client meetings and helping manage those relationships day to day. • Familiarity with recent Generative AI models and agents is essential, though direct technical experience is not a prerequisite. • Strong attention to detail, organizational capabilities, and the capacity to juggle numerous tasks concurrently. • Proven track record of research in academia or at a research institute (Nice to Have). • Experience with various model types (Text-to-Text, Text-to-Image) is desirable (Nice to Have). • Prior experience with OSINT (Open Source Intelligence) will be considered an asset (Nice to Have). • Experience mentoring or leading junior team members (Nice to Have).