Software Engineer, Trust & Safety

🕒 il y a 1 mois

🇺🇸 États-Unis – Télétravail

💵 $215 000 - $285 000 / an

⏰ Temps Plein

🟡 Intermédiaire

🟠 Senior

🧑‍💻 Développeur Full-Stack

👻 Score fantôme 1%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

OpenRouter

Site WebLinkedInTous les Emplois

1 - 10 employés

Fondée en 2023

💼 Conseil

📣 Marketing

🤖 Intelligence artificielle

Consulting • Marketing • Artificial Intelligence

OpenRouter est une plateforme qui offre une interface unifiée pour accéder et utiliser divers grands modèles de langage (LLM) de plusieurs fournisseurs. Elle propose une intégration transparente avec les principaux modèles et améliore l'expérience utilisateur grâce à des fonctionnalités telles qu'une disponibilité fiable des modèles IA, des politiques de données détaillées et des tarifs compétitifs. Avec plus de 2,5 millions d'utilisateurs dans le monde et le support de plus de 400 modèles, OpenRouter simplifie le processus de travail avec les LLM pour les développeurs et les organisations.

Description

• Build and operate systems across signup, payments, and usage to detect abuse and fraud early • Own the technical enforcement pipeline from detection through human review and restrictions across systems • Build internal investigation and enforcement tools, including case queues, evidence summaries, bulk review and enactment, and investigation alerts • Ship content-safety solutions on the inference path, including illegal-content detection and reporting • Build or integrate KYC systems and external intelligence sources to detect and stop fraud and abuse proactively • Develop systems, tools, and heuristics for rapid detection and scalable enforcement • Investigate incidents directly in data and build analytics capabilities to establish what happened, size patterns, and distinguish abuse from false positives • Build monitoring for risk, abuse spikes, and fraud while reducing false positives • Set technical direction for abuse prevention and define patterns for other engineers • Work with data scientists on feature exploration and training risk and abuse ML models

🎯 Exigences

• 4+ years building and operating production systems, ideally including trust & safety, fraud, payments risk, security, or anti-abuse experience • Proficient in React, TypeScript, Next.js, and JavaScript runtimes • Ability to write SQL against large event datasets • Ability to reason about base rates, precision and recall, and the cost of a wrong decision • Sound judgment when working with incomplete evidence • High agency and a bias toward action • AI-forward workflow, including frequent use of coding agents and workflow automation • Comfortable in a small, fast-moving environment with fluid team boundaries • Discretion and resilience when reviewing or discussing disturbing content and handling sensitive user data • Strong written and verbal communication • Motivation by adversarial problems • Nice to have: payments fraud tooling experience, including Stripe Radar, chargebacks, disputes, or crypto payment risk • Nice to have: identity and KYC systems experience • Nice to have: LLM-specific abuse experience, including jailbreaks, prompt injection, key theft and resale, shared or scraped credentials, or automated account farming • Nice to have: large-scale analytical datastores such as ClickHouse or BigQuery and observability platforms • Nice to have: familiarity with hosted-AI reporting and compliance obligations • Nice to have: OpenRouter usage or side projects in AI products, infrastructure, or developer tooling

🏖️ Avantages

• Equity • Remote work in the US

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV