GenAI Safety Analyst

Emploi pas sur LinkedIn

🕒 il y a 1 mois

🇺🇸 États-Unis – Télétravail

💵 $80 000 - $87 000 / an

⏰ Temps Plein

🟡 Intermédiaire

🟠 Senior

🧐 Analyste

👻 Score fantôme 8%

Ce que ça veut dire : la probabilité que cette offre reste ouverte sans recrutement actif.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

ActiveFence

Site WebLinkedInTous les Emplois

201 - 500 employés

🔒 Cybersecurity

🤖 Intelligence artificielle

💰 €400 000 000 Series B en 2021-07

Cybersecurity • Artificial Intelligence

ActiveFence est un fournisseur de solutions de confiance et sécurité pour les plateformes en ligne, protégeant ces dernières et leurs utilisateurs contre les comportements malveillants et les contenus nuisibles. Des équipes de Confiance et Sécurité de toutes tailles s'appuient sur ActiveFence pour protéger leurs utilisateurs face au spectre le plus large de dangers en ligne, de contenus indésirables et de comportements malveillants, incluant la sécurité et l'exploitation des enfants, la désinformation, les discours de haine, le terrorisme, la nudité, la fraude, et plus encore. Nous offrons une suite complète de capacités grâce à notre recherche approfondie en intelligence, notre détection de contenus nuisibles basée sur l'IA et notre plateforme de modération de contenu en ligne. En protégeant quotidiennement plus de trois milliards d'utilisateurs dans le monde dans plus de 100 langues, ActiveFence permet aux gens d'interagir et de prospérer en ligne.

Description

• Analyzing various content infringements to secure Generative AI tools • Collaborating with experts in diverse fields such as Hate Speech, Misinformation, Intellectual Property and Copyright • Writing adversarial prompts to identify weaknesses in AI models • Overseeing data management to guarantee the highest quality of outputs • Managing projects end-to-end, from initial planning through quality assurance to final delivery • Handling extensive datasets across multiple languages and areas of abuse • Ongoing investigation into new tactics for circumventing foundational models' safety measures • Promoting a culture of knowledge exchange and continual learning within the team

🎯 Exigences

• Background in AI Safety and/or Responsible AI and/or Trust and Safety • Familiarity with recent Generative AI models and agents is essential, though direct technical experience is not a prerequisite • Command of English at a near-native level • Attention to detail, organizational capabilities, and the capacity to juggle numerous tasks concurrently • Experience with various model types (Text-to-Text, Text-to-Image) is desirable • Prior experience with OSINT (Open Source Intelligence) will be considered an asset • A self-starter attitude, with the energy to excel in a fast-moving and variable environment