Featherless AI
1 - 10 Mitarbeiter
Gegründet 2023
🤖 Künstliche Intelligenz
☁️ SaaS
🔌 API
Artificial Intelligence • SaaS • API
Featherless AI ist ein Anbieter von serverlosen KI-Inferenz- und Modell-Hosting-Diensten, der API-Zugriff auf einen umfangreichen und wachsenden Katalog von Open-Weight-Modellen (12. 200+) bietet. Dadurch können Entwickler und Unternehmen Modelle in großem Maßstab einsetzen, anpassen und betreiben, ohne Server verwalten zu müssen. Das Unternehmen bietet eine pauschale Abonnementgebühr mit unbegrenzten Token, GPU-Orchestrierung, private/anonyme Nutzung (keine Protokolle) und Optionen für das unternehmensinterne Hosting oder Scale-Einheiten für hohe Parallelität. Featherless AI agiert auch als Forschungslabor für KI mit Fokus auf Open-Source- und Post-Transformer-Modellforschung und beansprucht signifikante Kosten- und Leistungsverbesserungen für große Modelle und KI-Agenten.
AI Researcher – Inferenzoptimierung
Stelle nicht auf LinkedIn
🕒 vor 5 Monaten
🗣️🇺🇸🇬🇧 Englisch erforderlich
📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle
Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.
Featherless AI
1 - 10 Mitarbeiter
Gegründet 2023
🤖 Künstliche Intelligenz
☁️ SaaS
🔌 API
Artificial Intelligence • SaaS • API
Featherless AI ist ein Anbieter von serverlosen KI-Inferenz- und Modell-Hosting-Diensten, der API-Zugriff auf einen umfangreichen und wachsenden Katalog von Open-Weight-Modellen (12. 200+) bietet. Dadurch können Entwickler und Unternehmen Modelle in großem Maßstab einsetzen, anpassen und betreiben, ohne Server verwalten zu müssen. Das Unternehmen bietet eine pauschale Abonnementgebühr mit unbegrenzten Token, GPU-Orchestrierung, private/anonyme Nutzung (keine Protokolle) und Optionen für das unternehmensinterne Hosting oder Scale-Einheiten für hohe Parallelität. Featherless AI agiert auch als Forschungslabor für KI mit Fokus auf Open-Source- und Post-Transformer-Modellforschung und beansprucht signifikante Kosten- und Leistungsverbesserungen für große Modelle und KI-Agenten.
Beschreibung
• Forschung und Entwicklung von Techniken zur Optimierung der Inferenzleistung großer neuronaler Netze. • Verbesserung von Latenz, Durchsatz, Speichereffizienz und Kosten pro Inferenz. • Entwurf und Bewertung modellbasierter Optimierungen (Quantisierung, Pruning, KV‑Cache‑Optimierung, architecture-aware Vereinfachungen). • Implementierung systemweiter Optimierungen (dynamic batching, kernel fusion, Multi‑GPU‑Inferenz, Prefill- vs. Decode-Optimierung). • Benchmarking von Inferenz-Workloads auf verschiedenen Hardware-Beschleunigern. • Zusammenarbeit mit Engineering-Teams zur Bereitstellung optimierter Inferenz-Pipelines. • Überführung von Forschungsergebnissen in produktionsreife Verbesserungen.
🎯 Anforderungen
• Fundierte Kenntnisse in Machine Learning, Deep Learning oder AI‑Systemen. • Praktische Erfahrung in der Optimierung der Inferenz für großskalige Modelle. • Sicherer Umgang mit Python und modernen ML‑Frameworks (z. B. PyTorch). • Erfahrung mit Inference‑Tooling (z. B. Triton, TensorRT, vLLM, ONNX Runtime). • Fähigkeit, Experimente zu entwerfen und Ergebnisse klar zu kommunizieren.
🏖️ Vorteile
• Krankenversicherung • Flexible Arbeitsmodelle • Möglichkeiten zur beruflichen Weiterbildung
Jetzt Bewerben
