Senior Principal Software Engineer

🕒 vor 1 Monat

🍂 Massachusetts – Remote

🍂 Massachusetts – Remote

💵 $141.400 - $226.300 / Jahr

⏰ Vollzeit

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Cerence Inc.

WebsiteLinkedInAlle Stellen

1001 - 5000 Mitarbeiter

Gegründet 2019

💼 Beratung

📦 Logistik

🏭 Fertigung

💰 Grant im 2020-12

Consulting • Logistics • Manufacturing

Cerence Inc. ist ein global tätiges Unternehmen mit Fokus auf AI‑gestützte Lösungen, insbesondere für die Automobilindustrie. Das Unternehmen ist auf Conversational AI und Generative AI spezialisiert, die intelligente, natürliche und personalisierte Interaktionen zwischen Menschen und Fahrzeugen ermöglichen. Mit Innovationen wie proprietären Automotive Large Language Models (LLMs) verbessert Cerence das Nutzererlebnis über verschiedene Verkehrsmittel hinweg – von Pkw über Zweiräder bis hin zu Lkw. Weltweit sind über 500 Millionen Fahrzeuge mit Cerence Technologie ausgeliefert; das Unternehmen bedient mehr als 80 OEMs und Tier‑1‑Zulieferer. Cerence treibt die Weiterentwicklung von AI kontinuierlich voran, mit dem Ziel, das Nutzererlebnis im Fahrzeug durch schnelle Bereitstellung und nahtlose Integration seiner Lösungen zu revolutionieren.

Beschreibung

• Optimize and deploy high ‑ performance LLM inference pipelines • Own inference runtimes across data center, edge, and embedded platforms • Push model performance through quantization, kernel fusion, and cache optimization • Drive latency and throughput improvements that directly impact production products • Enable efficient, reliable deployment without external vendor dependency • Build deep expertise and ownership of: vLLM TensorRT‑LLM llama.cpp QAIRT • Extend and tune inference engines using custom CUDA kernels • Adapt runtimes for constrained and embedded deployment environments • Implement and evaluate quantization strategies: INT8, INT4, FP4, FP8, mixed precision AWQ GPTQ • Balance accuracy, latency, memory footprint, and throughput • Optimize key–value cache performance through: Paging Prefix caching Cache ‑ aware memory layout design • Design and tune: Batching strategies Continuous batching Speculative decoding

🎯 Anforderungen

• Proven experience optimizing ML inference performance in production • Deep understanding of GPU architecture and memory hierarchies • Hands ‑ on experience with CUDA and low ‑ level performance tuning • Experience deploying models beyond research environments • Critical Technical Skills • Inference engines: vLLM, TensorRT ‑ LLM, llama.cpp, QAIRT • CUDA kernel development and profiling • Quantization techniques: INT8/INT4/FP4/FP8, AWQ, GPTQ • KV cache optimisation and memory layout design • Latency optimisation: batching, speculative decoding, continuous batching

🏖️ Vorteile

• Annual bonus opportunity • Insurance coverage (medical, dental, vision, life, and disability) • Paid time off • Paid holidays • Company contribution to the RRSP (Registered Retirement Savings Plan) • Equity awards for certain positions and levels • Remote and/or hybrid work available depending on the position