AI Safety Argumentation Research Engineer

Emploi pas sur LinkedIn

🕒 il y a 5 mois

🇺🇸 États-Unis – Télétravail

💵 $160 000 - $210 000 / an

⏰ Temps Plein

🟡 Intermédiaire

🟠 Senior

📚 Ingénieur de Recherche

👻 Score fantôme 47%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Future of Life Institute (FLI)

Site WebLinkedInTous les Emplois

11 - 50 employés

Fondée en 2014

🤖 Intelligence artificielle

🧬 Biotechnologie

🤝 À but non lucratif

💰 €482 500 Grant en 2021-11

Artificial Intelligence • Biotechnology • Non-profit

Le Future of Life Institute (FLI) est une organisation à but non lucratif dédiée à orienter les technologies transformatrices, telles que l'intelligence artificielle et la biotechnologie, afin qu'elles bénéficient à la vie et minimisent les risques à grande échelle. L'Institut se concentre sur des domaines tels que l'intelligence artificielle, la biotechnologie et les armes nucléaires, plaidant pour des changements politiques et une sensibilisation du public pour atténuer les risques associés. FLI s'engage dans la défense des politiques, la sensibilisation, l'octroi de subventions et l'organisation d'événements pour discuter du développement sûr et de la gouvernance de ces technologies. Il collabore à l'international avec des entités telles que les Nations Unies et l'Union Européenne afin de s'assurer que les technologies puissantes sont exploitées pour des résultats futurs positifs.

Description

• Extend ontologies and knowledge graph schemas representing claims, evidence, argument structures, defeaters, and confidence • Implement defeasible argumentation frameworks (e.g., ASPIC+, Dung-style, argumentation schemes) that capture both logical structure and vulnerability to rebuttal • Operate and quality-control LLM-driven population pipelines, with cross-check scaffolds, provenance tracking, and human-in-the-loop curation • Architect agent coordination patterns for multi-step research and population tasks, with robust error handling and graceful degradation • Pre-harden argument structures by mapping the strongest counterarguments, steel-manned objections, and known defeaters • Build export pipelines that translate structured argumentation into diverse communications formats across audiences and registers • Maintain current awareness across AI safety, capabilities, and governance sufficient to know when new developments require graph updates, and to know where to find authoritative further detail • Collaborate with communications staff and researchers to ensure outputs serve real persuasive needs

🎯 Exigences

• Working familiarity with formal or semi-formal argumentation theory (abstract or structured argumentation, defeasible reasoning, dialectical models, or argumentation schemes) • Experience with ontology engineering or knowledge graph development (OWL/RDF, property graphs, or equivalent) • Operational experience with LLM agent systems: agent coordination platforms, prompt engineering at scale, and QC regimes for LLM outputs (adversarial probing, consistency checks, calibration) • Fluent vibecoding practice: rapid prototyping and shipping with LLM-assisted development in production-adjacent contexts • Substantive grounding in AI safety, AI governance, and current frontier-AI dynamics, with the literacy to locate authoritative sources on any sub-topic or human expertise in the space • Familiarity with philosophy of science concepts bearing on evidence: defeaters, burden of proof, inference to the best explanation, underdetermination • Good coding skills; comfort with graph databases or query languages • Experience designing cross-check and verification scaffolds for unreliable automated processes • Sound judgment about when a claim is well-supported versus when it needs hedging, further substantiation, or withdrawal • Self-directed; strong written communication • Graduate work or equivalent depth in argumentation theory, computational argumentation, epistemology, or philosophy of science • Familiarity with AIF, Carneades, or comparable computational argumentation tools • Track record in AI safety or governance (publications, policy work, or substantive community contributions) • Background in argument mining, claim extraction, or stance detection • Experience with debate formats or structured deliberation methods • Understanding of motivated reasoning, belief change, and cognitive biases as they bear on communications strategy • Open-source contributions in any relevant area.

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV