Financial Risk & Safety Specialist – AI Systems

Stelle nicht auf LinkedIn

🕒 vor 2 Monaten

☕ Washington – Remote

☕ Washington – Remote

💵 $30 - $200 / Stunde

⏳ Vertrag

🟡 Mittelstufe

🟠 Senior

💸 Finanzplanung und Analyse (FP&A)

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mails für Remote-Jobs erhalten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

mpathic

WebsiteLinkedInAlle Stellen

11 - 50 Mitarbeiter

Gegründet 2021

🤖 Künstliche Intelligenz

🔌 API

☁️ SaaS

Artificial Intelligence • API • SaaS

mpathic ist ein KI-gesteuertes Sicherheits- und Analytikunternehmen, das SaaS-Produkte und APIs anbietet, um menschliche–KI- und menschliche–menschliche Interaktionen in klinischen, lebenswissenschaftlichen und Unternehmensumgebungen aufzuzeichnen, zu transkribieren, zu analysieren und zu verbessern. Zu ihren Angeboten gehören Spracherkennungstranskription, PII-Redaktion, Verhaltens- und Checklistenanalytik, menschlich kuratierte Benchmarking-Datensätze, Red-Teaming-Expertise und eine Observing Agent API zur Hinzufügung von domänenspezifischen Leitplanken für Gesundheits- und Medizinagenten. mpathic richtet sich an Lebenswissenschaften, klinische Forschungsorganisationen, Gesundheitsdienstleister, Versicherer und HR-/Unternehmensteams, die sich auf Empathie, Sicherheit, Biasreduzierung und Compliance konzentrieren.

Beschreibung

• Reviewing AI-generated financial content and conversations for accuracy, appropriateness, and risk • Identifying unsafe or misleading financial guidance (e.g., overconfident claims, risk minimization, inappropriate advice) • Evaluating how AI systems handle uncertainty, disclaimers, and scope of knowledge in consumer-facing contexts • Assessing whether models appropriately challenge or push back on risky or incorrect user assumptions • Identifying patterns of sycophancy, over-alignment, or inappropriate agreement • Evaluating multi-turn conversations for drift, escalation, and policy breakdown over time • Participating in or reviewing red teaming exercises, including adversarial probing of AI systems to surface failure modes • Evaluating how models respond under pressure, ambiguity, and escalating user intent • Supporting quality assurance (QA) of red teaming outputs to ensure consistency and rigor • Documenting edge cases, failure modes, and emerging risk patterns • Providing structured written feedback to internal teams • Collaborating with interdisciplinary teams on AI safety, policy, and evaluation frameworks • Maintaining strict confidentiality and quality standards

🎯 Anforderungen

• Professional experience in one or more of the following: Finance, investment analysis, or financial advising • Banking, wealth management, or asset management • Financial risk, compliance, or regulatory roles • Corporate finance, accounting, or financial planning • Strong understanding of: Financial risk, uncertainty, and decision-making • Appropriate vs. inappropriate financial guidance in consumer contexts • Ability to identify: Overconfidence, misleading claims, or missing risk disclosures • Inappropriate agreement with risky or incorrect user assumptions • Failures in escalation, boundary setting, or uncertainty communication • Strong written communication skills and ability to clearly explain reasoning • Experience with or interest in: Red teaming, adversarial testing, or safety evaluation of AI systems • Evaluating how systems fail under realistic user behavior • Comfort working with AI tools and conversational outputs • Ability to work remotely using Slack and standard productivity tools • Comfort with ambiguity, iteration, and feedback-driven workflows • Willingness to sign NDAs and work with sensitive content • Availability ~10 hours per week for 8 weeks (starting in mid-April), with occasional scheduled meetings