Research Engineer – AI Systems

🕒 vor 1 Monat

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Yotta Labs

WebsiteLinkedInAlle Stellen

1 - 10 Mitarbeiter

Gegründet 2024

🤖 Künstliche Intelligenz

☁️ SaaS

Artificial Intelligence • Cloud Computing • SaaS

Yotta Labs entwickelt das DeOS zur Optimierung und Orchestrierung von KI im planetaren Maßstab. Das Unternehmen bietet ein leistungsstarkes Framework zur Aggregation geo-verteilter GPUs und liefert hohe Durchsatzraten für heterogene Rechenressourcen. Yotta Labs fokussiert sich auf Erschwinglichkeit und Zugänglichkeit für das Training und die Inferenz von KI auf einer breiten Palette von GPUs, von Standard- bis hin zu High-End-Optionen. Ihre Plattform unterstützt große Sprachmodelle (LLMs) und ermöglicht es den Nutzern, KI-Anwendungen nahtlos anzupassen und sichere KI-Agenten mit optimierten API-Endpunkten in der Cloud bereitzustellen.

Beschreibung

• Design and implement high-performance kernels for Attention, MoE, GEMM, collective communication, and quantization. • Optimize kernels for NVIDIA, AMD, and AWS Trainium. • Develop custom operators and graph optimizations using Neuron SDK, PyTorch/XLA, Torch Dynamo, and Neuron Compiler. • Improve performance of vLLM, SGLang, TensorRT-LLM, and custom inference runtimes. • Design scalable distributed training and inference solutions across thousands of accelerators. • Contribute to open-source projects, publish technical findings and engage with the developer community.

🎯 Anforderungen

• Proficiency in AI programming languages such as Python and C++ • Deep understanding of GPU architecture and performance optimization • Experience with CUDA, Triton, ROCm/HIP, or AWS Neuron • Strong understanding of AI frameworks (e.g., PyTorch, Dynamo, LMCache), model architectures and profiling tools (e.g. Nsight, ROCm Profiler, or Neuron Profiler) • Strong problem-solving skills and the ability to work in a collaborative, remote environment • A background in computer science, engineering, or a related field is preferred

🏖️ Vorteile

• Competitive compensation with equity • Flexible, remote work environment that values innovation and autonomy