Machine Learning Engineer — Training-Optimierung

Stelle nicht auf LinkedIn

🕒 vor 5 Monaten

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Featherless AI

WebsiteLinkedInAlle Stellen

1 - 10 Mitarbeiter

Gegründet 2023

🤖 Künstliche Intelligenz

☁️ SaaS

🔌 API

Artificial Intelligence • SaaS • API

Featherless AI ist ein Anbieter von serverlosen KI-Inferenz- und Modell-Hosting-Diensten, der API-Zugriff auf einen umfangreichen und wachsenden Katalog von Open-Weight-Modellen (12. 200+) bietet. Dadurch können Entwickler und Unternehmen Modelle in großem Maßstab einsetzen, anpassen und betreiben, ohne Server verwalten zu müssen. Das Unternehmen bietet eine pauschale Abonnementgebühr mit unbegrenzten Token, GPU-Orchestrierung, private/anonyme Nutzung (keine Protokolle) und Optionen für das unternehmensinterne Hosting oder Scale-Einheiten für hohe Parallelität. Featherless AI agiert auch als Forschungslabor für KI mit Fokus auf Open-Source- und Post-Transformer-Modellforschung und beansprucht signifikante Kosten- und Leistungsverbesserungen für große Modelle und KI-Agenten.

Beschreibung

• Optimierung von Trainings-Pipelines für großskalige Modelle (Durchsatz, Konvergenz, Stabilität und Kosten) • Verbesserung verteilter Trainingsstrategien (Daten-, Modell- und Pipeline-Parallelismus) • Feinabstimmung von Optimierern, Schedulern, Batch-Größen und Numerikpräzision (bf16 / fp16 / fp8) • Verringerung der Trainingszeit und der Rechenkosten durch Profiling, Engpassanalyse und systemseitige Verbesserungen • Zusammenarbeit mit Forschenden an architekturbezogenen Trainingsstrategien • Aufbau und Pflege robuster Trainingsinfrastruktur (Checkpointing, Fehlertoleranz, Reproduzierbarkeit) • Bewertung und Integration neuer Trainingstechniken (z. B. Gradient Checkpointing, ZeRO, FSDP, benutzerdefinierte Kernel) • Verantwortung für Trainings-Performance-Metriken und deren kontinuierliche Verbesserung

🎯 Anforderungen

• Umfangreiche Erfahrung im Training großer neuronaler Netze (LLMs oder vergleichbar große Modelle) • Praktische Erfahrung in der Trainingsoptimierung (nicht nur Anwendung von Modellen) • Fundierte Kenntnisse in: • - Backpropagation, Optimierungsalgorithmen und Trainingsdynamik • - Verteilte Systeme für ML-Training • Erfahrung mit PyTorch (erforderlich) • Sicherer Umgang mit hardwarenaher Arbeit (GPUs, Speicher- und Netzwerkbegrenzungen) • Fähigkeit, flexibel zwischen Forschungsideen und produktionsreifem Code zu wechseln • Wünschenswert • Erfahrung mit großskaligem verteiltem Training (Multi-Node, Multi-GPU) • Vertrautheit mit DeepSpeed, FSDP, Megatron oder eigenen Trainings-Stacks • Erfahrung in der Optimierung von Training auf AMD- oder NVIDIA-GPUs • Beiträge zu Open-Source-ML-Infrastruktur oder Forschungs-Codebasen • Erfahrung mit nicht-Transformer-Architekturen (RNNs, Hybridmodelle etc.)

🏖️ Vorteile

• Wettbewerbsfähige Vergütung und nennenswerte Equity