GenAI Safety Analyst

Stelle nicht auf LinkedIn

🕒 vor 1 Monat

🇺🇸 Vereinigte Staaten – Remote

💵 $80.000 - $87.000 / Jahr

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🧐 Analyst

👻 Geisterscore 8%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

ActiveFence

WebsiteLinkedInAlle Stellen

201 - 500 Mitarbeiter

🔒 Cybersecurity

🤖 Künstliche Intelligenz

💰 €400.000.000 Series B im 2021-07

Cybersecurity • Artificial Intelligence

ActiveFence ist ein Anbieter für Vertrauen und Sicherheit für Online-Plattformen und schützt Plattformen und ihre Nutzer vor böswilligem Verhalten und Inhalten. Vertrauens- und Sicherheitsteams jeder Größe verlassen sich auf ActiveFence, um ihre Nutzer vor einem breiten Spektrum an Online-Gefahren, unerwünschten Inhalten und schädlichem Verhalten zu schützen, darunter Kindersicherheit und Ausbeutung, Desinformation, Hassrede, Terror, Nacktheit, Betrug und mehr. Wir bieten eine vollständige Palette von Fähigkeiten mit unserer tiefgehenden Informationsforschung, KI-gestützten Erkennung schädlicher Inhalte und unserer Plattform zur Moderation von Online-Inhalten. ActiveFence schützt täglich weltweit über drei Milliarden Nutzer in über 100 Sprachen und ermöglicht es Menschen, sicher und erfolgreich online zu interagieren.

Beschreibung

• Analyzing various content infringements to secure Generative AI tools • Collaborating with experts in diverse fields such as Hate Speech, Misinformation, Intellectual Property and Copyright • Writing adversarial prompts to identify weaknesses in AI models • Overseeing data management to guarantee the highest quality of outputs • Managing projects end-to-end, from initial planning through quality assurance to final delivery • Handling extensive datasets across multiple languages and areas of abuse • Ongoing investigation into new tactics for circumventing foundational models' safety measures • Promoting a culture of knowledge exchange and continual learning within the team

🎯 Anforderungen

• Background in AI Safety and/or Responsible AI and/or Trust and Safety • Familiarity with recent Generative AI models and agents is essential, though direct technical experience is not a prerequisite • Command of English at a near-native level • Attention to detail, organizational capabilities, and the capacity to juggle numerous tasks concurrently • Experience with various model types (Text-to-Text, Text-to-Image) is desirable • Prior experience with OSINT (Open Source Intelligence) will be considered an asset • A self-starter attitude, with the energy to excel in a fast-moving and variable environment