
11 - 50 Mitarbeiter
Gegründet 2025
🤖 Künstliche Intelligenz
🤝 B2B
🏢 Unternehmen
Artificial Intelligence • B2B • Enterprise
Inferact ist ein Startup, das von den Schöpfern und Hauptentwicklern von vLLM, der führenden Open-Source-LLM-Inferenz-Engine, gegründet wurde. Das Unternehmen hat das Ziel, den Fortschritt der KI zu beschleunigen, indem es die Modellinferenz kostengünstiger und schneller macht und die Leistung und Unterstützung von vLLM für neue Architekturen und Accelerator-Hardware erweitert. Inferact kombiniert tiefgehende Expertise an der Schnittstelle von Modellen und Hardware, um Infrastrukturen für die Inferenz bereitzustellen, die von Forschungslabors, Großunternehmen und Startups genutzt werden, und entwickelt weiterhin Optimierungen für die Open-Source-Community.
🕒 vor 2 Monaten
🌏 Überall auf der Welt
💵 Schätzung: $107.000 - $214.000 / Jahr
⏰ Vollzeit
🟠 Senior
🖥 Softwareentwickler
👻 Geisterscore 37%
🗣️🇺🇸🇬🇧 Englisch erforderlich
Woher diese Stelle stammt
Veröffentlicht auf der Karriereseite von Inferact ↗, nicht über eine Jobbörse
Von Remote Rocketship zum ersten Mal gesehen vor 2 Monaten
Noch offen auf der Website von Inferact. Geprüft vor 10 Stunden.

11 - 50 Mitarbeiter
Gegründet 2025
🤖 Künstliche Intelligenz
🤝 B2B
🏢 Unternehmen
Artificial Intelligence • B2B • Enterprise
Inferact ist ein Startup, das von den Schöpfern und Hauptentwicklern von vLLM, der führenden Open-Source-LLM-Inferenz-Engine, gegründet wurde. Das Unternehmen hat das Ziel, den Fortschritt der KI zu beschleunigen, indem es die Modellinferenz kostengünstiger und schneller macht und die Leistung und Unterstützung von vLLM für neue Architekturen und Accelerator-Hardware erweitert. Inferact kombiniert tiefgehende Expertise an der Schnittstelle von Modellen und Hardware, um Infrastrukturen für die Inferenz bereitzustellen, die von Forschungslabors, Großunternehmen und Startups genutzt werden, und entwickelt weiterhin Optimierungen für die Open-Source-Community.
• Die Grenzen des Servings von LLMs und Diffusionsmodellen erweitern • Im Kern von vLLM arbeiten, um die Modellausführung auf unterschiedlichen Hardwareplattformen und Architekturen zu optimieren • Innovative Lösungen für Inferenz-Runtimes bei Mixture-of-Experts-, multimodalen und agentenbasierten Architekturen entwickeln • In Forschungsarbeiten beschriebene Inferenztechniken und Modellarchitekturen implementieren • Leistungsfähigen und wartbaren Code beitragen • Komplexe Codebasen im Bereich Machine Learning debuggen • Die Ausführung von KI-Inferenz direkt verbessern, indem sie kostengünstiger und schneller gemacht wird
• Bachelorabschluss oder gleichwertige Berufserfahrung in Informatik, Ingenieurwesen oder einem vergleichbaren Fachgebiet • Fundierte Kenntnisse von Transformer-Architekturen und ihren Varianten • Sehr gute Programmierkenntnisse in Python sowie Erfahrung mit den Interna von PyTorch • Erfahrung mit LLM-Inferenzsystemen wie vLLM, TensorRT-LLM, SGLang oder TGI • Fähigkeit, Modellarchitekturen und Inferenztechniken aus Forschungsarbeiten zu verstehen und zu implementieren • Fähigkeit, leistungsfähigen und wartbaren Code zu entwickeln und komplexe ML-Codebasen zu debuggen • Von Vorteil: fundierte Kenntnisse im Speichermanagement des KV-Cache, im Prefix-Caching und im hybriden Model Serving • Von Vorteil: Kenntnisse von RL-Frameworks und -Algorithmen für LLMs • Von Vorteil: Erfahrung mit multimodaler Inferenz für Audio, Bilder, Video und Text • Beiträge zu Open-Source-Projekten im Bereich Machine Learning oder Systeminfrastruktur sind von Vorteil • Zusätzlich von Vorteil: Implementierung zentraler Funktionen in vLLM oder anderen Inferenz-Engine-Projekten • Zusätzlich von Vorteil: Beiträge zu vLLM-Integrationen wie verl, OpenRLHF, Unsloth oder LlamaFactory • Zusätzlich von Vorteil: vielbeachtete technische Blogbeiträge oder eigene Projekte zu vLLM oder LLM-Inferenz • Erforderliche Bewerbungsunterlagen: Lebenslauf, GitHub-Benutzername und ein Link zu einem relevanten persönlichen Projekt, Open-Source-Beitrag oder technischen Blogbeitrag
• Attraktive Zusatzleistungen, die auf den jeweiligen Arbeitsort abgestimmt sind, einschließlich Krankenversicherung, sofern zutreffend • Beteiligung am Unternehmen (Equity) • Unterstützung bei der Visumbeantragung nach Einzelfallprüfung • Vollständig remote möglich • Zeitzonenflexible Arbeitszeiten mit regelmäßiger Überschneidung mit der pazifischen Zeitzone für wichtige Abstimmungen
Jetzt BewerbenVerbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.
🕒 vor 3 Monaten
React Native Entwickler, der hochwertige Softwarelösungen entwirft und entwickelt. Arbeitet remote am gesamten Software-Lifecycle und präsentiert Lösungen gegenüber Kunden.
🗣️🇧🇷🇵🇹 Portugiesisch erforderlich
🕒 vor 3 Monaten
Twindo revolutioniert Renovierung und Design durch moderne AI-Technologie in einem globalen Virtual-First-Unternehmen. Interessierte Bewerberinnen und Bewerber können ihre Lebensläufe für künftige Möglichkeiten einsenden.
🌏 Überall auf der Welt
💰 €10.000.000 Series A im 2025-03
⏰ Vollzeit
⚪️ Einsteiger
🟢 Junior
🟡 Mittelstufe
🟠 Senior
🖥 Softwareentwickler
🚫👨🎓 Kein Abschluss erforderlich
🗣️🇺🇸🇬🇧 Englisch erforderlich
🕒 vor 3 Monaten
Senior Mobile Engineer, der React Native-Anwendungen für Trust Wallet entwickelt, einen weltweit führenden Anbieter von Kryptowährungs-Wallets. Zusammenarbeit mit Teams, um hochwertige mobile Nutzererlebnisse zu liefern.
🗣️🇺🇸🇬🇧 Englisch erforderlich
🕒 vor 4 Monaten
Lightning-Entwickler für die Bitcoin-Zahlungsinfrastruktur von Bitrefill. Zusammenarbeit mit einem globalen Team in einer vollständig remote Arbeitsumgebung.
🗣️🇺🇸🇬🇧 Englisch erforderlich
🕒 vor 4 Monaten
51 - 200
Senior Mobile Engineer, der innovative Anwendungen für Play Store und App Store entwirft und entwickelt. Fokus auf Performance-Optimierung, globale Zusammenarbeit und Stärkung der Sicherheitsmaßnahmen.
🗣️🇺🇸🇬🇧 Englisch erforderlich