Senior AI Application Engineer - LLM & VLM Enablement

Über uns Axelera AI ist kein gewöhnliches Deep-Tech-Unternehmen. Wir schaffen die nächste Generation der KI-Plattform, um jedem zu helfen, der die Menschheit voranbringen und die Welt um uns herum verbessern möchte. In nur fünf Jahren haben wir insgesamt 450 Millionen Dollar gesammelt und ein erstklassiges Team von über 250 Mitarbeitern (darunter mehr als 60 Doktoranden mit über 40.000 Zitierungen) aufgebaut, sowohl remote aus 21 verschiedenen Ländern als auch mit Büros in Belgien, Frankreich, der Schweiz, Italien, dem Vereinigten Königreich und mit Hauptsitz im High Tech Campus in Eindhoven, Niederlande. Wir haben auch unsere Metis AI-Plattform gestartet, die eine Effizienz- und Leistungssteigerung von 3-5x erreicht, und haben Sicht auf eine starke Geschäftspipeline von über 100 Millionen Dollar. Unser unerschütterliches Engagement für Innovation hat uns fest als globalen Branchenpionier etabliert.

Positionsübersicht Als Senior AI Application Engineer im Model Enablement-Team (Application Software) sind Sie verantwortlich für die Unterstützung von LLM und VLM auf Metis und Europa AIPUs, vom Studium neuer Modelle bis hin zur Auslieferung im Voyager SDK. Die Rolle kombiniert LLM/VLM-Wissen mit solider Softwaretechnik. Unser Team nutzt KI-Coding-Agenten in der täglichen Arbeit, und Sie werden diese verwenden, um Ihre eigene Arbeit zu erstellen, zu testen und zu überprüfen. Wir begrüßen auch erfahrene Field Application Engineers, technische Leiter und Engineering-Manager, die wieder in die praktische Ingenieursarbeit zurückkehren möchten. Erfahrung in der Planung, Delegierung und Überprüfung von Arbeiten überträgt sich gut auf die Arbeit mit KI-Agenten.

Hauptverantwortlichkeiten:

• LLM/VLM-Studie: Neue LLM- und VLM-Familien und -Architekturen studieren (z.B. Mischung von Experten, kleine VLMs, neue Aufmerksamkeits- und Dekodierungsschemata). Prototypisieren und Profilieren auf Metis und Europa und entscheiden, wie sie auf unserer Hardware laufen sollen.
• Produktisierung: Ihre Ergebnisse und die Ergebnisse unserer ML-Forschungsgruppe in unterstützte Voyager SDK-Funktionen umwandeln, mit stabilen APIs, Tests, Dokumentation und Freigabeschranken.
• Modellseitige Verträge: Für jedes LLM/VLM-Baustein das PyTorch-Referenzmodell mit quantisierter Implementierung, die Gewichtsmapping und einen Vertrag, der jeden Eingang, Ausgang, Gewicht und den persistenten Zustand (z.B. einen paginierten KV-Cache) auflistet, besitzen und diesen Vertrag an das Compiler-Team übergeben.
• Pipelines-Integration: LLM- und VLM-Dienste in den Voyager SDK-Pipeline-Builder integrieren: Vorbefüllung und Dekodierung, KV-Cache-Management, Streaming-Textausgabe und multimodale Eingaben.
• Qualität: Zusammen mit den Regression- und Quantisierungsverantwortlichen die Genauigkeit im Vergleich zum Fließkomma-Referenzwert messen und jede Lücke schließen oder erklären.
• LLM/VLM-Bereitstellungsplattform: Die Modellbereitstellungsplattform für LLM und VLM erweitern: Umgebungen mit Zugang zum Compiler, Laufzeit und echter Hardware (z.B. über MCP-Tools), geschlossene Schleifen, die eine Änderung anwenden, die Genauigkeit und Geschwindigkeit im Vergleich zum Referenzwert messen und wiederholen sowie Bewertungen, die jede Ausführung bewerten.
• GenAI-Richtung: Empfehlen, was das Voyager SDK für GenAI, Agenten und Sprache auf Edge-Geräten benötigt und welche Modell-Demo am besten zeigt.

Qualifikationen:

Essentiell:

• 5+ Jahre Erfahrung in der Softwareentwicklung, davon mindestens 2 Jahre in ML-Inferenz, ML-Systemen oder ML-Tools.
• Solides Verständnis der Transformer-Inferenz: Aufmerksamkeitsvarianten, KV-Caching, Vorbefüllung vs. Dekodierung, Sampling, Tokenisierung und wie ein VLM einen Vision Encoder mit einem Sprachmodell verbindet.
• Praktische Kenntnisse in der LLM-Quantisierung (Gewicht- und Gewicht-Aktivierungs-Schemata, Kalibrierung, Umgang mit Ausreißern) und die Fähigkeit, einen Quantisierungsfehler von einem Implementierungsfehler zu unterscheiden.
• Starke Kenntnisse in Python und PyTorch sowie Erfahrung in der Auslieferung von produktionsreifer Software.
• Tägliche Nutzung von KI-Coding-Agenten in realen Codebasen mit gutem Urteilsvermögen darüber, wann man deren Ausgabe überprüfen oder ablehnen sollte.
• Fähigkeit, Forschungscode und Hardwarebeschränkungen in ein praktisches Design umzuwandeln.

Bevorzugt:

• Erfahrung mit Inferenz-Engines oder Serviestacks (z.B. llama.cpp, vLLM, ONNX Runtime GenAI, ExecuTorch).
• Erfahrung in der Kernel-Entwicklung oder einem Tensor-Compiler (z.B. Triton, TVM oder MLIR) oder mit der Profilierung von Modellen auf Beschleuniger-Hardware.
• Erfahrung mit Sprache (ASR, TTS) oder agentischen Anwendungen auf eingebetteten Geräten.
• Erfahrung im Aufbau von Evaluierungs- oder Testumgebungen für ML-Systeme oder KI-Agenten oder Tool-Calling-Agenten (z.B. MCP-Server).

Standort:

Wir bieten eine flexible Arbeitsgestaltung mit Optionen:

• Arbeiten Sie von einem unserer Axelera AI-Büros (Leuven in Belgien, Amsterdam und Eindhoven in den Niederlanden, Zürich in der Schweiz, Florenz und Mailand in Italien oder Bristol im Vereinigten Königreich), wenn Sie bereits in der Nähe sind.
• Vollständig remote aus jedem europäischen Land (einschließlich des Vereinigten Königreichs), in dem Sie sich bereits befinden.
• Mit uns umziehen und von Italien (Florenz oder Mailand) oder den Niederlanden (Amsterdam oder Eindhoven) aus arbeiten.

Bitte beachten Sie, dass Bewerber, die (interessiert daran sind) in Belgien oder Italien ansässig zu sein, Vorrang haben.

Was wir anbieten:

Dies ist Ihre Chance, Teil einer dynamischen, schnell wachsenden internationalen Organisation zu werden. Wir bieten ein attraktives Vergütungspaket, einschließlich eines Pensionsplans, umfassender Mitarbeiterversicherungen und der Möglichkeit, Unternehmensanteile zu erhalten. Eine offene Kultur, die Kreativität und kontinuierliche Innovation unterstützt, erwartet Sie. Kollaborativer Besitz und Freiheit mit Verantwortung sind charakteristisch für unsere Arbeitsweise als Team. Bei Axelera AI setzen wir uns uneingeschränkt für Chancengleichheit ein und legen höchsten Wert auf Vielfalt. Unser fester Einsatz gilt der Schaffung einer warmen und integrativen Umgebung, die jedes Mitglied unseres Teams ermächtigt und feiert. Wir heißen Bewerber aus allen Hintergründen willkommen, um gemeinsam die Zukunft der KI zu gestalten.