Senior Applied Scientist, Efficient LLM Inference & Model Optimization in Zürich

Über das Unternehmen: Das Unternehmen führt eine neue Ära in der Cloud-Infrastruktur für die globale KI-Wirtschaft an. Wir bauen eine Full-Stack-AI-Cloud-Plattform, die Entwickler und Unternehmen von der Daten- und Modellschulung bis hin zur Produktionsbereitstellung unterstützt, ohne die Kosten und die Komplexität des Aufbaus großer interner AI/ML-Infrastrukturen. Das Team von über 1.500 Mitarbeitern umfasst Hunderte von Ingenieuren mit tiefem Fachwissen in Hardware, Software und KI-Forschung und -Entwicklung.

Die Rolle: Das Unternehmen Token Factory benötigt Wissenschaftler, die Engpässe bei der Inferenz in Forschungsprobleme umwandeln, glaubwürdige Arbeiten veröffentlichen und dann helfen, die Ergebnisse in die Produktion zu bringen. Dies ist keine reine Forschungsrolle. Der angewandte Wissenschaftler wird erwartet, rigorose Experimente zu entwerfen, starken Code zu schreiben, mit Ingenieuren zusammenzuarbeiten und Forschung in bereitgestellte Inferenzfähigkeiten umzuwandeln.

Ihre Verantwortlichkeiten:

• Eigentum an fokussierten Forschungsprojekten von der Hypothese über das Experiment, Ablation, Prototyp und Übergabe an die Produktion.
• Vorbereitung interner Berichte, technischer Blogs oder Artikel, wenn die Arbeit extern glaubwürdig ist.
• Direkte Partnerschaft mit MLEs, um sicherzustellen, dass Forschungsprototypen nutzbare Produktionskomponenten werden.
• Definition und Durchführung von Forschungsprogrammen in effizienter LLM- und VLM-Inferenz mit messbarem Produktionseinfluss.
• Erfindung, Bewertung und Produktionsrealisierung von Methoden für Quantisierung, QAT, Destillation, spekulative Dekodierung, KV-Cache-Wiederverwendung, KV-Cache-Kompression, Langkontextinferenz, MoE-Routing und Modell-/Laufzeit-Kooptimierung.
• Erstellung hochwertiger Prototypen in PyTorch, Triton, CUDA-nahen Werkzeugen oder Inferenz-Servierungsframeworks und Zusammenarbeit mit MLEs und Plattformingenieuren zur Produktionsrealisierung.
• Entwurf rigoroser Evaluierungsmethodologien, die Qualität, Latenz, Durchsatz, numerische Stabilität, Speicherbedarf, Tail-Latenz und Kosten pro Token abdecken.
• Veröffentlichung von Artikeln, technischen Berichten, Blogbeiträgen und Open-Source-Artefakten, die externe Glaubwürdigkeit für das Unternehmen Token Factory aufbauen.
• Zusammenarbeit mit MLE, GPU-Kernel, Backend-Infrastruktur, Produkt- und Kunden-Teams zur Auswahl von hochwirksamen Forschungswetten.
• Mentoring von Ingenieuren und Wissenschaftlern in experimentellem Design, wissenschaftlicher Strenge und Modell-/Systemtrade-offs.

Must-haves:

• PhD in Informatik, Maschinenlernen, ML-Systemen, Computersystemen, Computerarchitektur, Elektrotechnik, angewandter Mathematik oder einem eng verwandten Bereich.
• Starke Publikationsbilanz oder gleichwertige Forschungsartefakte in ML, ML-Systemen, effizienter Inferenz, Modellkompression, Quantisierung, Destillation, Servierungssystemen oder verwandten Bereichen.
• Starke praktische Programmierkenntnisse in Python und PyTorch; Fähigkeit, schnell von der Idee zum Experiment zum Prototyp zu wechseln.
• Tiefes Verständnis von LLMs, VLMs, Transformer-Inferenz, Dekodierungsalgorithmen, Modellkompression, Quantisierung und Produktionsservierungs-Trade-offs.
• Starke Fähigkeiten im experimentellen Design, einschließlich Ablationen, Baselines, Metriken, statistischem Denken und Fehleranalyse.
• Exzellente schriftliche und mündliche Kommunikation.

Nice-to-haves:

• Erstautor-Publikationen in NeurIPS, ICML, ICLR, MLSys, ACL, EMNLP, ASPLOS, OSDI, SOSP, ISCA, HPCA oder vergleichbaren Veranstaltungsorten.
• Erfahrung in der Bereitstellung von ML-Modellen oder Inferenzoptimierungen in der Produktion.
• Erfahrung mit vLLM, SGLang, TensorRT-LLM, NVIDIA Dynamo, FlashAttention, FlashInfer, Triton, CUDA oder PyTorch-Interna.
• Erfahrung mit Post-Training, SFT, DPO, RLHF, RLAIF, Präferenzoptimierung oder synthetischer Datengenerierung in Verbindung mit Inferenzqualität oder Effizienz.
• Open-Source-Forschungsartefakte, weit verbreitete Benchmarks, hochwertige technische Blogs oder eingeladene Vorträge in effizienten KI-Systemen.

Vorteile & Anreize:

• Wettbewerbsfähige Vergütung
• Karrierewachstum und Lernmöglichkeiten
• Flexibilität und Eigenverantwortung
• Kollaborative und innovative Kultur
• Gelegenheit, an bedeutenden KI-Projekten zu arbeiten
• Internationales Umfeld und talentierte Teams

Was es bedeutet, im Unternehmen zu arbeiten: Schnelllebig - Mutiges Denken - Ständiges Wachstum - Bedeutender Einfluss - Vertrauen und echte Eigenverantwortung - Gelegenheit, die Zukunft der KI zu gestalten.

Gleichstellungserklärung: Das Unternehmen ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns dafür ein, einen integrativen und vielfältigen Arbeitsplatz zu fördern und in allen Aspekten der Beschäftigung gleiche Beschäftigungsmöglichkeiten zu bieten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen durch geltendes Recht geschützten Eigenschaft. Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen als Bedingung für die Einstellung einen Nachweis über die Beschäftigungsberechtigung vorlegen. Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.