Staff AI Application Engineer - Heterogeneous Computing

Axelera AI ist kein gewöhnliches Deep-Tech-Unternehmen. Wir schaffen die nächste Generation von KI-Plattformen, um jedem zu helfen, der die Menschheit voranbringen und die Welt um uns herum verbessern möchte.

In nur fünf Jahren haben wir insgesamt 450 Millionen Dollar gesammelt und ein erstklassiges Team von über 250 Mitarbeitern aufgebaut (darunter über 60 PhDs mit mehr als 40.000 Zitierungen), sowohl remote aus 21 verschiedenen Ländern als auch mit Büros in Belgien, Frankreich, der Schweiz, Italien, dem Vereinigten Königreich und mit Hauptsitz im High Tech Campus in Eindhoven, Niederlande.

Wir haben auch unsere Metis™ KI-Plattform gestartet, die eine Effizienz- und Leistungssteigerung von 3-5x erreicht, und haben Sicht auf eine starke Geschäftspipeline von über 100 Millionen Dollar. Unser unerschütterliches Engagement für Innovation hat uns fest als globalen Branchenpionier etabliert.

Als Staff AI Application Engineer im Model Enablement Team (Application Software) werden Sie unsere Modellaktivierungsplattform aufbauen und entscheiden, wie jedes Modell über die Metis oder Europa AIPU, die Host-CPU und die Beschleuniger des Hosts ausgeführt wird. Wie diese Arbeit aufgeteilt und geplant wird, bestimmt die meiste End-to-End-Leistung, die ein Kunde im Voyager SDK sieht.

Die Rolle kombiniert Architektur und praktische Arbeit über das Modell-Frontend, den Graph-Compiler, die Laufzeit und die Anwendungs-Pipeline. Während der Modellaktivierung decken Sie die Frontend- und Graph-Seite ab, während ein gerätebezogener Ingenieur den Backend-Bereich abdeckt.

Unser Team verwendet KI-Coding-Agenten in der täglichen Arbeit, und Sie werden diese nutzen, um Ihre eigene Arbeit zu erstellen, zu testen und zu überprüfen. Wir begrüßen auch erfahrene Field Application Engineers, technische Leiter und Engineering Manager, die wieder in die praktische Ingenieursarbeit zurückkehren möchten. Erfahrung in Planung, Delegation und Überprüfung von Arbeiten überträgt sich gut auf die Arbeit mit KI-Agenten.

Hauptverantwortlichkeiten:

• Modellaktivierungsplattform und Agenten-Harness: Bauen Sie die Plattform, die Ingenieure und KI-Agenten verwenden, um Modelle zu aktivieren: wiederverwendbare Werkzeuge zum Partitionieren, Kompilieren, Ausführen und Profilieren; Umgebungen mit Zugang zu echter Hardware; geschlossene Schleifen, die eine Änderung anwenden, sie gegen das Referenzmodell messen und wiederholen; und Verifizierung (differential testing, regression detection) integriert in CI.
• Modellaufnahme: Besitzen Sie, wie ein PyTorch- oder ONNX-Modell erfasst, analysiert und über die Matrix und RISC-V-Vektoreinheiten des AIPU, die Host-CPU und die Beschleuniger des Hosts (GPU, NPU, Video-Decoder) aufgeteilt wird, mit Platzierungstags, die Benutzer lesen und überschreiben können. Bauen Sie dies mit dem Graph-Compiler-Team, damit es für jedes Modell funktioniert.
• Heterogene Ausführung: Erweitern Sie diese Aufteilung auf große Modelle, Kaskaden und Multi-Modell-Pipelines, beispielsweise mit Experten-Offloading und Caching über Geräte- und Hostspeicher. Stimmen Sie den Plan mit dem Graph-Compiler-Team ab.
• End-to-End-Leistung: Bringen Sie mit dem Anwendungsteam (Pipeline-Builder) und dem Laufzeitteam jedes Modell zu seiner besten End-to-End-Leistung: Überlappung von Host- und Gerätearbeit, Zero-Copy-Puffer, Batching, Multi-Core-Planung und Modelle mit mehreren Eingaben. Profilieren Sie die Gerätezeit, die Hostzeit und die Datenbewegung und bestätigen Sie jede Beschleunigung in der gesamten Pipeline.
• Kritische Modelle: Studieren Sie die Modelle, die für Kunden am wichtigsten sind, heute auf Metis und auf Europa, und verwandeln Sie jede Lektion in eine Plattformverbesserung.

Qualifikationen:Erforderlich:

• Über 8 Jahre Ingenieurerfahrung in Systemen, Compilern, Laufzeiten oder Leistung, einschließlich Verantwortung für das Systemdesign.
• Praktische Erfahrung mit heterogenem Computing über CPU, GPU, DSP, NPU oder FPGA, einschließlich Überlegungen zu Berechnung, Speicherbandbreite, Latenz und Datenbewegung.
• Solide Grundlagen in Computerarchitektur, Betriebssystemen und paralleler Programmierung.
• Vertrautheit mit ML-Graphdarstellungen und Compiler-Konzepten: Graph-Erfassung (torch.export, FX, ONNX), Senkung, Operatorfusion, Partitionierung, Speicherplanung.
• Starke Kenntnisse in C++ und Python.
• Tägliche Nutzung von KI-Coding-Agenten bei realer Ingenieursarbeit, mit dem Urteil, ihre Ergebnisse zu überprüfen und zu testen.

Bevorzugt:

• Praktische Erfahrung mit MLIR oder einem anderen Compiler-Framework (TVM, XLA, TorchInductor, IREE).
• Erfahrung mit einer Inferenzlaufzeit oder Ausführungsengine (ONNX Runtime-Ausführungsanbieter, eine benutzerdefinierte NPU- oder DSP-Laufzeit).
• Erfahrung mit GPU-Computing (CUDA, OpenCL, Vulkan) oder SIMD-Optimierung auf Arm oder x86.
• Erfahrung mit Techniken zur Ausführung großer Modelle wie Offloading, Experten-Caching, spekulative Dekodierung, Pipeline über Geräte.
• Erfahrung im Aufbau von Agentenumgebungen, Evaluierungs-Harnesses oder Verifizierungsrahmen (differential testing, regression detection) oder MCP-basierten Werkzeugen.

Standort:

Wir bieten eine flexible Arbeitsregelung mit Optionen, um:

• Von einem unserer Axelera AI Büros (Leuven in Belgien, Amsterdam und Eindhoven in den Niederlanden, Zürich in der Schweiz, Florenz und Mailand in Italien oder Bristol im Vereinigten Königreich) zu arbeiten, wenn Sie bereits in der Nähe sind.
• Vollständig remote aus jedem europäischen Land (einschließlich des Vereinigten Königreichs), in dem Sie sich bereits befinden, zu arbeiten.
• Mit uns umzuziehen und von Italien (Florenz oder Mailand) oder den Niederlanden (Amsterdam oder Eindhoven) aus zu arbeiten.

Bitte beachten Sie, dass Kandidaten, die (interessiert daran sind) in Belgien oder Italien ansässig zu sein, Vorrang haben.

Was wir bieten:

Dies ist Ihre Chance, Teil eines dynamischen, schnell wachsenden, internationalen Unternehmens zu werden. Wir bieten ein attraktives Vergütungspaket, einschließlich eines Pensionsplans, umfangreicher Mitarbeiterversicherungen und der Möglichkeit, Unternehmensanteile zu erhalten.

• ein Pensionsplan
• umfangreiche Mitarbeiterversicherungen
• die Möglichkeit, Unternehmensanteile zu erhalten

Eine offene Kultur, die Kreativität und kontinuierliche Innovation unterstützt, erwartet Sie. Kollaboratives Eigentum und Freiheit mit Verantwortung sind charakteristisch für die Art und Weise, wie wir als Team handeln und arbeiten. Bei Axelera AI setzen wir uns uneingeschränkt für Chancengleichheit ein und legen höchsten Wert auf Vielfalt. Unser unerschütterliches Engagement besteht darin, eine warme und integrative Umgebung zu schaffen, die jedes Mitglied unseres Teams stärkt und feiert. Wir heißen Bewerber aus allen Hintergründen willkommen, um gemeinsam die Zukunft der KI zu gestalten.