Mid/Senior AI LLM Engineer in Sachseln

Diese Position wird im Auftrag eines Partnerunternehmens ausgeschrieben, das alle Bewerbungen und nächsten Schritte verwaltet. Unser Partner sucht einen Mid/Senior AI LLM Engineer mit Sitz in der Schweiz. Als Mid/Senior AI LLM Engineer werden Sie selbstgehostete große Sprachmodelle entwickeln, verfeinern und optimieren, die personalisierte, ansprechende KI-Gespräche ermöglichen. Sie arbeiten über den gesamten Lebenszyklus der Modellentwicklung hinweg, von der Vorbereitung von Trainingsdatensätzen und der Durchführung von GPU-basierten Experimenten bis hin zur Bewertung der Leistung und der Implementierung von Verbesserungen in der Produktion.

Ihre Arbeit wird dazu beitragen, die Gesprächsqualität, das Langzeitgedächtnis, die Konsistenz der Persönlichkeit und mehrsprachige Interaktionen zu verbessern. In Zusammenarbeit mit KI-Ingenieuren, Produktspezialisten, Webentwicklern und DevOps-Teams werden Sie experimentelle Erkenntnisse in zuverlässige, skalierbare Lösungen umsetzen. Diese praktische Rolle bietet die Möglichkeit, mit offenen Modellen, fortschrittlichen Feinabstimmungstechniken und praktischen Bewertungsrahmen für KI zu arbeiten. Sie treten einer remote-first Umgebung bei, die sich auf den Aufbau innovativer, verbraucherorientierter KI-Produkte konzentriert und gleichzeitig die Modellleistung und Benutzererfahrung kontinuierlich verbessert.

Verantwortlichkeiten:

• Feinabstimmung und Optimierung bestehender offener großer Sprachmodelle zur Verbesserung der Gesprächsqualität, der Antwortgenauigkeit, der Konsistenz und der Personalisierung.
• Vorbereitung, Kuratierung und Verbesserung von Trainingsdatensätzen zur Unterstützung des effektiven Modelllernens, zur Reduzierung unerwünschter Ausgaben und zur Verbesserung der Relevanz und Natürlichkeit der generierten Antworten.
• Entwurf und Implementierung von Bewertungsrahmen, Benchmarks und Testmethoden zur Messung der Modellqualität, zur Identifizierung von Schwächen und zur Validierung von Verbesserungen.
• Verbesserung des Gesprächsgedächtnisses, der Konsistenz der Persönlichkeit und der Fähigkeit der Modelle, kohärente, kontextbewusste Interaktionen über längere Gespräche aufrechtzuerhalten.
• Entwicklung mehrsprachiger Gesprächsfähigkeiten und Unterstützung von Interaktionen mit mehreren Charakteren, um ein natürliches und konsistentes Verhalten in verschiedenen Szenarien sicherzustellen.
• Untersuchung von Modellfehlern und Leistungsbeschränkungen, Anpassung von Trainingsdaten, Eingabeaufforderungen, Modellkonfigurationen und Antwortfiltern zur Behebung identifizierter Probleme.
• Durchführung von GPU-basierten Trainings- und Feinabstimmungsexperimenten, Fehlersuche bei Infrastruktur- und Leistungsproblemen sowie Optimierung von Trainingsabläufen für Effizienz und Zuverlässigkeit.
• Anwendung moderner Techniken zur Modellanpassung und -ausrichtung, einschließlich überwachten Feinabstimmungen, LoRA, QLoRA und präferenzbasierter Optimierungsmethoden, wo dies angebracht ist.
• Bereitstellung verbesserter Modelle in Produktionsumgebungen, Überwachung ihrer Leistung, Analyse benutzerorientierter Ergebnisse und Implementierung iterativer Verfeinerungen basierend auf Bewertungsergebnissen.
• Zusammenarbeit mit KI-Engineering, Produkt-, Webentwicklung und DevOps-Teams zur Integration von Modellverbesserungen in verbraucherorientierte Anwendungen und zur Abstimmung technischer Arbeiten mit Produktzielen.
• Arbeiten mit sensiblen Gesprächsanwendungen und Moderationsanforderungen, wobei das Verhalten des Modells, die Benutzererfahrung und geltende Inhaltsrichtlinien in Einklang gebracht werden.

Anforderungen:

• Nachgewiesene praktische Erfahrung in der Feinabstimmung offener großer Sprachmodelle und der Bereitstellung von Modellen in Produktionsumgebungen.
• Starke Python-Programmierkenntnisse, einschließlich Erfahrung in der Entwicklung, dem Testen und der Wartung von Machine-Learning-Workflows.
• Praktische Erfahrung mit PyTorch und Hugging Face oder vergleichbaren Frameworks und Werkzeugen zur Modellentwicklung.
• Erfahrung mit Techniken zur Modelltraining und -anpassung wie überwachte Feinabstimmung (SFT), Low-Rank-Anpassung (LoRA) und quantisierte Low-Rank-Anpassung (QLoRA).
• Vertrautheit mit präferenzbasierten Trainings- und Ausrichtungstechniken, wie z.B. Direct Preference Optimization (DPO) oder Group Relative Policy Optimization (GRPO).
• Erfahrung in der Vorbereitung und Verwaltung von Trainingsdatensätzen, Verbesserung der Datenqualität und Entwicklung von Bewertungsrahmen zur Beurteilung des Verhaltens und der Ausgabequalität von Modellen.
• Praktische Erfahrung mit GPU-basiertem Modelltraining, Leistungsoptimierung und Fehlersuche bei technischen Problemen im Zusammenhang mit dem Training.
• Starke analytische und problemlösende Fähigkeiten, mit der Fähigkeit, das Verhalten von Modellen zu untersuchen, Ursachen zu identifizieren, Experimente zu entwerfen und messbare Verbesserungen nachzuweisen.
• Verständnis der Herausforderungen, die mit der Bereitstellung und Wartung von LLM-gestützten Anwendungen verbunden sind, einschließlich Antwortqualität, Konsistenz, Inferenzleistung und laufender Überwachung.
• Erfahrung in der Arbeit an verbraucherorientierten KI-Produkten, mit einem Verständnis dafür, wie Modellqualität und Gesprächsverhalten die Benutzererfahrung beeinflussen.
• Komfort im Umgang mit minimal eingeschränkten oder nicht zensierten KI-Modellen, einschließlich explizitem Erwachsenen- oder NSFW-Inhalt und sensiblen Moderationsmaterialien, während angemessene Sicherheitsvorkehrungen und Inhaltsbehandlungspraktiken angewendet werden.
• Fähigkeit, unabhängig in einer Remote-Umgebung zu arbeiten, Experimente effektiv zu verwalten, Ergebnisse zu dokumentieren und mit funktionsübergreifenden Teams zusammenzuarbeiten.
• Starke Kommunikationsfähigkeiten, Aufmerksamkeit für Details und eine kontinuierliche Lernmentalität, mit der Fähigkeit, experimentelle Ergebnisse in praktische Produktverbesserungen zu übersetzen.

Vorteile:

• Vollständig remote Arbeitsarrangement innerhalb Europas.
• Langfristige Zusammenarbeitsmöglichkeiten, wobei B2B-Verträge bevorzugt werden.
• 20 Arbeitstage bezahlter Urlaub.
• Ein monatliches Gesundheitsversicherungsbudget von 100 USD.
• Ausstattungsbudget zur Unterstützung Ihres Remote-Arbeitsplatzes.
• Zugang zu KI-Entwicklungstools und -technologien.
• Unterstützung bei Lernen und Entwicklung zur Förderung des kontinuierlichen beruflichen Wachstums.
• Jährliches Teamtreffen, um sich mit Kollegen zu verbinden und zusammenzuarbeiten.
• Gelegenheit, praktisch mit selbstgehosteten LLMs zu arbeiten, die innovative, verbraucherorientierte KI-Produkte antreiben.
• Eine technisch herausfordernde Umgebung, die Einblicke in moderne Sprachmodelle, Feinabstimmungsmethoden und die Entwicklung von Gesprächs-KI bietet.