Software Engineer, Trust & Safety

🕒 vor 1 Monat

🇺🇸 Vereinigte Staaten – Remote

💵 $215.000 - $285.000 / Jahr

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

🗣️🇺🇸🇬🇧 Englisch erforderlich

Woher diese Stelle stammt

Veröffentlicht auf der Karriereseite von OpenRouter ↗der Karriereseite von OpenRouter, nicht über eine Jobbörse

Von Remote Rocketship zum ersten Mal gesehen vor 1 Monat

Noch offen auf der Website von OpenRouter. Geprüft vor 8 Stunden.

Jetzt Bewerben
Logo of OpenRouter

OpenRouter

1 - 10 Mitarbeiter

Gegründet 2023

💼 Beratung

📣 Marketing

🤖 Künstliche Intelligenz

Consulting • Marketing • Artificial Intelligence

OpenRouter ist eine Plattform, die eine einheitliche Schnittstelle für die Interaktion mit verschiedenen großen Sprachmodellen (LLMs) bietet. Sie konzentriert sich darauf, bessere Preise und Betriebszeiten zu liefern, ohne dass Abonnements erforderlich sind. Die Plattform unterstützt mehrere KI-Aufgaben und präsentiert Modelle wie Mistral Small 3 und DeepSeek R1 Distill Qwen 32B, die für schnelle Leistung und hohe Genauigkeit ausgelegt sind. OpenRouter bietet auch Spiele- und Codierungstools, die die Benutzerfreundlichkeit in verschiedenen Bereichen wie Marketing, Finanzen und Bildung verbessern.

Beschreibung

• Build and operate systems across signup, payments, and usage to detect abuse and fraud early • Own the technical enforcement pipeline from detection through human review and restrictions across systems • Build internal investigation and enforcement tools, including case queues, evidence summaries, bulk review and enactment, and investigation alerts • Ship content-safety solutions on the inference path, including illegal-content detection and reporting • Build or integrate KYC systems and external intelligence sources to detect and stop fraud and abuse proactively • Develop systems, tools, and heuristics for rapid detection and scalable enforcement • Investigate incidents directly in data and build analytics capabilities to establish what happened, size patterns, and distinguish abuse from false positives • Build monitoring for risk, abuse spikes, and fraud while reducing false positives • Set technical direction for abuse prevention and define patterns for other engineers • Work with data scientists on feature exploration and training risk and abuse ML models

🎯 Anforderungen

• 4+ years building and operating production systems, ideally including trust & safety, fraud, payments risk, security, or anti-abuse experience • Proficient in React, TypeScript, Next.js, and JavaScript runtimes • Ability to write SQL against large event datasets • Ability to reason about base rates, precision and recall, and the cost of a wrong decision • Sound judgment when working with incomplete evidence • High agency and a bias toward action • AI-forward workflow, including frequent use of coding agents and workflow automation • Comfortable in a small, fast-moving environment with fluid team boundaries • Discretion and resilience when reviewing or discussing disturbing content and handling sensitive user data • Strong written and verbal communication • Motivation by adversarial problems • Nice to have: payments fraud tooling experience, including Stripe Radar, chargebacks, disputes, or crypto payment risk • Nice to have: identity and KYC systems experience • Nice to have: LLM-specific abuse experience, including jailbreaks, prompt injection, key theft and resale, shared or scraped credentials, or automated account farming • Nice to have: large-scale analytical datastores such as ClickHouse or BigQuery and observability platforms • Nice to have: familiarity with hosted-AI reporting and compliance obligations • Nice to have: OpenRouter usage or side projects in AI products, infrastructure, or developer tooling

🏖️ Vorteile

• Equity • Remote work in the US

Jetzt Bewerben

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Ähnliche Jobs

🕒 vor 1 Monat

Aledade, Inc.

501 - 1000

🏥 Gesundheitswesen

⚕️ Krankenversicherung

🏢 Unternehmen

AI platform engineer building Aledade's MCP gateway, plugin marketplace, model routing, and telemetry. Enabling healthcare technology teams through secure integrations, observability, and cost-optimized inference.

🇺🇸 Vereinigte Staaten – Remote

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

🗣️🇺🇸🇬🇧 Englisch erforderlich

🕒 vor 1 Monat

Capital One

10.000+ Mitarbeiter

🏦 Bankwesen

💳 Fintech

💸 Finanzen

Director leading Capital One Shopping's full-stack engineering teams. Building scalable customer-facing web, cloud, microservice, and machine-learning technology.

🇺🇸 Vereinigte Staaten – Remote

💵 $244.700 - $279.200 / Jahr

💰 Post-IPO Equity im 2023-05

⏰ Vollzeit

🟠 Senior

🔴 Experte

🧑‍💻 Full-Stack-Entwickler

🗣️🇺🇸🇬🇧 Englisch erforderlich

🕒 vor 1 Monat

Simple Software Solutions Group, Inc

51 - 200

💼 Beratung

🏥 Gesundheitswesen

📣 Marketing

SAP Technical Lead driving S/4HANA Brownfield migrations, ABAP remediation, and integrations. Leading technical teams for aerospace and defense transformation projects.

🇺🇸 Vereinigte Staaten – Remote

⏰ Vollzeit

🟠 Senior

🔴 Experte

🧑‍💻 Full-Stack-Entwickler

🗣️🇺🇸🇬🇧 Englisch erforderlich

🕒 vor 1 Monat

Capital One

10.000+ Mitarbeiter

🏦 Bankwesen

💳 Fintech

💸 Finanzen

Full-stack Engineer 5 leading distributed, cloud-native shopping systems at Capital One. Driving architecture, engineering strategy, and technical initiatives across development teams.

🇺🇸 Vereinigte Staaten – Remote

💵 $229.900 - $262.400 / Jahr

💰 Post-IPO Equity im 2023-05

⏰ Vollzeit

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

🗣️🇺🇸🇬🇧 Englisch erforderlich

🕒 vor 1 Monat

Vultr

51 - 200

🤖 Künstliche Intelligenz

Senior Software Engineer consolidating Vultr’s cloud infrastructure monitoring and alerting into unified GIOC tooling. Building integrations, correlation engines, and operational dashboards for global cloud operations.

🇺🇸 Vereinigte Staaten – Remote

💵 $125.000 - $135.000 / Jahr

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

🗣️🇺🇸🇬🇧 Englisch erforderlich

Grafana

ITSM

Python

Splunk

Entwickelt von Lior Neu-ner. Ich freue mich über Ihr Feedback — kontaktieren Sie mich per DM oder per E-Mail support@remoterocketship.com
Follow Remote Rocketship on LinkedInFollow Remote Rocketship on InstagramFollow Remote Rocketship on FacebookFollow Remote Rocketship on TikTok