Software Engineer, Trust & Safety

🕒 vor 8 Tagen

🇺🇸 Vereinigte Staaten – Remote

💵 $215.000 - $285.000 / Jahr

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

👻 Geisterscore 1%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

OpenRouter

WebsiteLinkedInAlle Stellen

1 - 10 Mitarbeiter

Gegründet 2023

💼 Beratung

📣 Marketing

🤖 Künstliche Intelligenz

Consulting • Marketing • Artificial Intelligence

OpenRouter ist eine Plattform, die eine einheitliche Schnittstelle für die Interaktion mit verschiedenen großen Sprachmodellen (LLMs) bietet. Sie konzentriert sich darauf, bessere Preise und Betriebszeiten zu liefern, ohne dass Abonnements erforderlich sind. Die Plattform unterstützt mehrere KI-Aufgaben und präsentiert Modelle wie Mistral Small 3 und DeepSeek R1 Distill Qwen 32B, die für schnelle Leistung und hohe Genauigkeit ausgelegt sind. OpenRouter bietet auch Spiele- und Codierungstools, die die Benutzerfreundlichkeit in verschiedenen Bereichen wie Marketing, Finanzen und Bildung verbessern.

Beschreibung

• Build and operate systems across signup, payments, and usage to detect abuse and fraud early • Own the technical enforcement pipeline from detection through human review and restrictions across systems • Build internal investigation and enforcement tools, including case queues, evidence summaries, bulk review and enactment, and investigation alerts • Ship content-safety solutions on the inference path, including illegal-content detection and reporting • Build or integrate KYC systems and external intelligence sources to detect and stop fraud and abuse proactively • Develop systems, tools, and heuristics for rapid detection and scalable enforcement • Investigate incidents directly in data and build analytics capabilities to establish what happened, size patterns, and distinguish abuse from false positives • Build monitoring for risk, abuse spikes, and fraud while reducing false positives • Set technical direction for abuse prevention and define patterns for other engineers • Work with data scientists on feature exploration and training risk and abuse ML models

🎯 Anforderungen

• 4+ years building and operating production systems, ideally including trust & safety, fraud, payments risk, security, or anti-abuse experience • Proficient in React, TypeScript, Next.js, and JavaScript runtimes • Ability to write SQL against large event datasets • Ability to reason about base rates, precision and recall, and the cost of a wrong decision • Sound judgment when working with incomplete evidence • High agency and a bias toward action • AI-forward workflow, including frequent use of coding agents and workflow automation • Comfortable in a small, fast-moving environment with fluid team boundaries • Discretion and resilience when reviewing or discussing disturbing content and handling sensitive user data • Strong written and verbal communication • Motivation by adversarial problems • Nice to have: payments fraud tooling experience, including Stripe Radar, chargebacks, disputes, or crypto payment risk • Nice to have: identity and KYC systems experience • Nice to have: LLM-specific abuse experience, including jailbreaks, prompt injection, key theft and resale, shared or scraped credentials, or automated account farming • Nice to have: large-scale analytical datastores such as ClickHouse or BigQuery and observability platforms • Nice to have: familiarity with hosted-AI reporting and compliance obligations • Nice to have: OpenRouter usage or side projects in AI products, infrastructure, or developer tooling

🏖️ Vorteile

• Equity • Remote work in the US