Protection Scientist, Engineer

🕒 il y a 11 jours

🇬🇧 Royaume-Uni – Télétravail

⏰ Temps Plein

🟡 Intermédiaire

🟠 Senior

👷🏻‍♀️ Ingénieur

👻 Score fantôme 25%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Pourquoi ce score :

• Ouverte depuis 12 jours.
• Les offres de cette entreprise sont généralement pourvues en 38 jours.
• 15 postes ouverts pour une équipe de 19 personnes.
• Aucun salaire indiqué.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

10a Labs

Site WebLinkedInTous les Emplois

11 - 50 employés

Fondée en 2021

🤖 Intelligence artificielle

🔒 Cybersecurity

☁️ SaaS

Artificial Intelligence • Cybersecurity • SaaS

10a Labs est une entreprise de recherche appliquée et de technologie spécialisée dans la sécurité de l'IA. Elle fournit des services de collecte de renseignements, de recherche d'enquête et d'analyse pour des licornes de l'IA, des entreprises du Fortune 10 et des leaders technologiques américains. L'entreprise offre des services qui permettent aux équipes de sécurité et aux dirigeants technologiques de rester en avance sur les menaces évolutives, de stimuler l'innovation et de protéger leurs marques. Leur travail inclut l'évaluation des modèles d'IA face aux menaces, le développement de systèmes de détection des menaces en temps réel et la surveillance des cybermenaces pour améliorer la sûreté et la sécurité de l'IA tout au long du cycle de développement du produit.

Description

• Identify and investigate misuse of the client's products, especially new types of abuse • Design and build systems to proactively identify and enforce against abuse on AI products • Establish robust abuse monitoring for new products and sustain monitoring for existing products • Prototype and incubate systems of defense against high-risk harms • Respond to and investigate critical escalations not caught by existing safety systems • Develop understanding of products and data • Scope and implement abuse monitoring requirements for new product launches • Improve monitoring operations and automate monitoring subtasks for existing products • Prototype and mature production systems for abuse detection, review, and enforcement • Collaborate with Product, Policy, Operations, Investigative, and Engineering teams to understand risks, develop responses, and build scaled tooling

🎯 Exigences

• Ability to work remotely on GMT and must be geographically located in the UK • Quantitative and coding background, including statistics/metrics • Proficiency in Python and SQL • Experience identifying, and ideally enforcing on, bad actors with scaled tooling • Ability to participate in an on-call rotation approximately once per quarter, resolving urgent escalations outside normal work hours • Ability to rapidly context switch across domains, modalities, and abuse areas, including violent activities and child safety • Background in machine learning and classification, especially on novel or poorly understood behaviours (desired, not required) • Experience scaling and automating processes, especially with language models (desired, not required) • Experience working with scaled labellers or reviewers (desired, not required) • Familiarity with AI safety, child safety, abuse by nation state and other malicious actors, digital mental health, fraud abuse, radicalization/persuasion/grooming, or hateful activities and groups (desired, not required)

🏖️ Avantages

• Full-Time (40 hours per week), contract position • Remote position based in London, UK • On-call rotation approximately once per quarter, including urgent escalations outside normal work hours, evenings, and weekends

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV