Research Engineer, Production Model Post-Training in Zürich

Über Anthropic

Anthropic’s Mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe von engagierten Forschern, Ingenieuren, Politikspezialisten und Geschäftsführern, die zusammenarbeiten, um vorteilhafte KI-Systeme zu entwickeln.

Über die Rolle

Die Produktionsmodelle von Anthropic durchlaufen anspruchsvolle Nachschulungsprozesse, um ihre Fähigkeiten, Ausrichtung und Sicherheit zu verbessern. Als Research Engineer in unserem Post-Training-Team werden Sie unsere Basis-Modelle durch den gesamten Nachschulungsprozess trainieren, um die Produktionsmodelle Claude bereitzustellen, mit denen die Nutzer interagieren.

Sie arbeiten an der Schnittstelle zwischen modernster Forschung und Produktionsengineering, implementieren, skalieren und verbessern Nachschulungstechniken wie Constitutional AI, RLHF und andere Ausrichtungs-Methoden. Ihre Arbeit wird direkt die Qualität, Sicherheit und Fähigkeiten unserer Produktionsmodelle beeinflussen.

Hinweis: Für diese Rolle führen wir alle Interviews in Python durch. Diese Rolle kann erfordern, dass Sie auf Vorfälle kurzfristig reagieren, auch an Wochenenden.

Verantwortlichkeiten:

• Implementieren und Optimieren von Nachschulungstechniken im großen Maßstab auf Grenzmodellen
• Forschung durchführen, um Nachschulungsrezepte zu entwickeln und zu optimieren, die die Qualität des Produktionsmodells direkt verbessern
• Robuste, effiziente Pipelines für Modellanpassung und -bewertung entwerfen, bauen und betreiben
• Werkzeuge entwickeln, um die Modellleistung über verschiedene Dimensionen zu messen und zu verbessern
• Mit Forschungsteams zusammenarbeiten, um aufkommende Techniken in produktionsbereite Implementierungen zu übersetzen
• Komplexe Probleme in Trainingspipelines und im Verhalten von Modellen debuggen
• Best Practices für zuverlässige, reproduzierbare Nachschulungen von Modellen etablieren

Sie könnten gut passen, wenn Sie:

• In kontrolliertem Chaos gedeihen und eher energetisiert als überwältigt sind, wenn Sie mehrere dringende Prioritäten jonglieren
• Schnell auf sich ändernde Prioritäten reagieren können
• Klarheit bewahren, wenn Sie komplexe, zeitkritische Probleme debuggen
• Starke Software-Engineering-Fähigkeiten haben und Erfahrung im Aufbau komplexer ML-Systeme besitzen
• Komfortabel im Umgang mit großflächigen verteilten Systemen und Hochleistungsrechnern sind
• Erfahrung mit dem Training, der Feinabstimmung oder der Bewertung großer Sprachmodelle haben
• Forschungserkundung mit ingenieurtechnischer Strenge und betrieblicher Zuverlässigkeit ausbalancieren können
• Geübt im Analysieren und Debuggen von Modelltrainingsprozessen sind
• Gerne über Forschungs- und Ingenieurdiziplinen hinweg zusammenarbeiten
• Mit Unklarheiten umgehen und Fortschritte in schnelllebigen Forschungsumgebungen erzielen können

Starke Kandidaten könnten auch:

• Erfahrung mit LLMs haben
• Ein starkes Interesse an KI-Sicherheit und verantwortungsvoller Bereitstellung haben

Wir begrüßen Kandidaten auf verschiedenen Erfahrungsstufen, mit einer Präferenz für erfahrene Ingenieure, die praktische Erfahrung mit Grenz-KI-Systemen haben. Kenntnisse in Python, tiefen Lernframeworks und verteilter Datenverarbeitung sind jedoch für diese Rolle erforderlich.

Logistik

Bildungsanforderungen: Wir verlangen mindestens einen Bachelor-Abschluss in einem verwandten Bereich oder gleichwertige Erfahrung.

Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.

Visumsponsoring: Wir sponsern Visa! Wir sind jedoch nicht in der Lage, Visa für jede Rolle und jeden Kandidaten erfolgreich zu sponsern. Wenn wir Ihnen ein Angebot machen, werden wir jedoch alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten uns einen Einwanderungsanwalt vor, um dabei zu helfen.

Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen.

Nicht alle starken Kandidaten werden jede einzelne Qualifikation erfüllen, wie sie aufgeführt ist. Forschung zeigt, dass Menschen, die sich als unterrepräsentierte Gruppen identifizieren, eher dazu neigen, Imposter-Syndrom zu erleben und an der Stärke ihrer Kandidatur zu zweifeln. Daher fordern wir Sie auf, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir denken, dass KI-Systeme wie die, die wir bauen, enorme soziale und ethische Implikationen haben. Wir glauben, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Vielzahl von unterschiedlichen Perspektiven in unser Team einzubeziehen.

Ihre Sicherheit ist uns wichtig.

Um sich vor potenziellen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Rekruten Sie nur von @anthropic.com-E-Mail-Adressen kontaktieren. In einigen Fällen können wir mit geprüften Personalvermittlungsagenturen zusammenarbeiten, die sich als im Auftrag von Anthropic tätig identifizieren. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Anthropic-Rekruten werden niemals vor Ihrem ersten Tag nach Geld, Gebühren oder Bankinformationen fragen. Wenn Sie sich jemals über eine Kommunikation unsicher sind, klicken Sie auf keine Links – besuchen Sie anthropic.com/careers direkt für bestätigte Stellenangebote.

Wie wir anders sind

Wir glauben, dass die wirkungsvollste KI-Forschung große Wissenschaft sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen großangelegten Forschungsanstrengungen. Und wir schätzen den Einfluss – das Vorantreiben unserer langfristigen Ziele für steuerbare, vertrauenswürdige KI – anstatt an kleineren und spezifischeren Rätseln zu arbeiten. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie zu tun hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir die wirkungsvollste Arbeit zu jedem Zeitpunkt verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, besteht darin, unsere aktuellen Forschungen zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Kommen Sie zu uns!

Anthropic ist eine gemeinnützige Gesellschaft mit Sitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktien-Spendenübereinstimmungen, großzügige Urlaubs- und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können.