Staff / Senior Staff Machine Learning Engineer, Inference - Switzerland

Inworld ist ein Forschungs- und Inferenzanbieter, der sich auf Echtzeit-KI für verbraucherorientierte Anwendungen konzentriert. Wir entwickeln erstklassige Sprachmodelle, bedienen LLMs und führen die Inferenz hinter modularen APIs durch, die für hochvolumige, Echtzeitarbeitslasten ausgelegt sind. Hunderte Millionen von Nutzern interagieren täglich mit Inworld-betriebenen Apps, und wir bedienen über 10 Billionen LLM-Tokens pro Monat. Unsere Modelle und Infrastruktur unterstützen Verbraucheranwendungen in Bereichen wie Begleiter, Gesundheitswesen, Fitness, Bildung, Medien und mehr.

Wir suchen starke Personen aus unterschiedlichen Hintergründen, die schnell lernen, in Unklarheit gedeihen und uns zeigen können, was sie gebaut, kaputt gemacht und verstanden haben.

Erfahrung, die wir nützlich finden:

• Inferenzoptimierung: Tiefes Verständnis moderner Servierframeworks und Techniken wie vLLM oder TRT-LLM.
• Modellbeschleunigung: Praktische Erfahrung mit Quantisierung, Destillation, Caching-Strategien, kontinuierlichem Batching, paged attention und spekulativer Dekodierung.
• Hochleistungs-Systeme: Kenntnisse in C++, CUDA, Rust oder hochoptimiertem Python.
• Verteilte Systeme & Skalierung: Erfahrung mit Kubernetes, Ray, benutzerdefiniertem Lastenausgleich, Multi-GPU/Multi-Node-Inferenz und zuverlässigem Umgang mit Tausenden gleichzeitigen Verbindungen.
• Öffentliche Arbeiten: Nicht triviale Systemprogrammierungsprojekte, Open-Source-Beiträge zu wichtigen Inferenz-Engines oder tiefgehende technische Berichte.
• Vollzyklus-Eigentum: Fähigkeit, ein Modell vom Forschungsteam zu übernehmen, zu containerisieren, seine Bereitstellung zu optimieren und sicherzustellen, dass es zuverlässig in der Produktion läuft.
• Hintergrund: PhD in Informatik, Physik, Mathematik oder gleichwertige praktische Erfahrung im Aufbau von Backend- oder ML-Systemen.

Professionelle Englischkenntnisse (schriftlich und mündlich) sind erforderlich, da Sie täglich mit unseren US-amerikanischen Führungskräften und Ingenieurteams zusammenarbeiten werden.

Was das Arbeiten hier bedeutet:

Wir geben Ihnen unklare Probleme und erwarten, dass Sie sie klären. Wir schätzen Ingenieure, die sagen: "Ich weiß es noch nicht" und dann den Benchmark oder Prototyp entwerfen, der herausfindet, was nötig ist. Wir behandeln Leistung, Latenz und Zuverlässigkeit als erstklassige Produktmerkmale, nicht als Box, die vor dem Start abgehakt werden muss. Ihr Werk sollte sichtbar sein. Flache Struktur, schnelle Iterationen, minimaler Prozessaufwand.

Standort & Beschäftigung:

Standort: remote innerhalb der Schweiz
Beschäftigungsart: Vollzeit, unbefristete Anstellung
Einstellungsmodell: Anstellung über einen Arbeitgeber von Aufzeichnungen (EOR)

Kandidaten müssen bereits das rechtliche Recht haben, in der Schweiz zu arbeiten, da keine Visumsunterstützung für diese Rolle verfügbar ist.