Research Engineer, Cybersecurity RL (Reinforcement Learning) in Zürich

Über Anthropic

Anthropic’s Mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe von engagierten Forschern, Ingenieuren, Politikspezialisten und Geschäftsführern, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Über das Team

Das Sicherheitsteam schützt die KI-Systeme von Anthropic und erhält das Vertrauen unserer Nutzer und der Gesellschaft.

Über die Rolle

Bei Anthropic sind wir Pioniere neuer Grenzen in der KI, die das Potenzial haben, der Gesellschaft erheblich zu nützen. Die Entwicklung fortschrittlicher KI birgt jedoch auch Risiken, wenn sie nicht ordnungsgemäß gesichert ist. Als Research Engineer helfen Sie dabei, die Fähigkeiten unserer Modelle in den Bereichen Incident Response, Sicherheitsanalyse, Schwachstellenbehebung und anderen Bereichen der defensiven Cybersicherheit sicher voranzutreiben.

Diese Rolle verbindet Forschung und Ingenieurwesen und erfordert, dass Sie sowohl neuartige Ansätze entwickeln als auch diese in Code umsetzen. Ihre Arbeit umfasst das Entwerfen und Implementieren von RL-Umgebungen, das Durchführen von Experimenten und Bewertungen, das Bereitstellen Ihrer Arbeit in Produktionsschulungsdurchläufen sowie die Zusammenarbeit mit anderen Forschern, Ingenieuren und Cybersicherheitsspezialisten innerhalb und außerhalb von Anthropic.

Diese Rolle erfordert ML-Erfahrung in Kombination mit Fachwissen im Bereich Cybersicherheit. Sie könnten ein ML-Forscher mit einer Geschichte in der Cybersicherheitsarbeit sein oder ein Sicherheitsexperte mit einem Hintergrund in ML.

Verantwortlichkeiten

• Zusammenarbeit mit Forschern und Sicherheitsteams bei Anthropic, um deren analytische Bedürfnisse zu verstehen und Lösungen zu entwickeln.
• Entwicklung agentischer Integrationen, die es KI-Systemen ermöglichen, autonom analytische Ergebnisse zu untersuchen und darauf zu reagieren.
• Beitrag zur strategischen Ausrichtung des Teams, einschließlich Entscheidungen darüber, was gebaut werden soll, woran man sich beteiligen soll und wo investiert werden soll.
• Diese Rolle kann die Teilnahme an einer Rufbereitschaft erfordern.

Sie könnten gut geeignet sein, wenn Sie:

• Erfahrung mit maschinellem Lernen haben.
• Erfahrung in der Cybersicherheitsforschung haben.
• Starke Software-Ingenieurfähigkeiten besitzen.
• Forschungserkundung mit Ingenieureinführung ausbalancieren können.
• Leidenschaft für das Potenzial von KI haben und sich für die Entwicklung sicherer und nützlicher Systeme einsetzen.

Starke Kandidaten haben möglicherweise auch:

• Berufserfahrung in der Sicherheitsingenieurwissenschaft, Fuzzing, Erkennung und Reaktion oder anderer angewandter defensiver Arbeit.
• Erfahrung in der Teilnahme an oder dem Aufbau von CTF-Wettbewerben und Cyber-Ranges.
• Akademische Forschungserfahrung in der Cybersicherheit oder einem anderen experimentellen und forschungsbezogenen Hintergrund.
• Vertrautheit mit RL-Techniken und -Umgebungen.
• Vertrautheit mit LLM-Trainingsmethoden.

Logistik

• Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung.
• Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, das durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen wird.
• Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen für die Position.
• Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.
• Visumsponsoring: Wir sponsern Visa! Wir können jedoch nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Wenn wir Ihnen ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.

Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen. Nicht alle starken Kandidaten werden jede einzelne Qualifikation wie aufgeführt erfüllen. Forschung zeigt, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher dazu neigen, Imposter-Syndrom zu erleben und an der Stärke ihrer Kandidatur zu zweifeln. Daher fordern wir Sie auf, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind.

Ihre Sicherheit ist uns wichtig. Um sich vor potenziellen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Rekruten Sie nur über anthropic.com kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als Vertreter von Anthropic identifizieren. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Anthropic-Rekruten werden niemals vor Ihrem ersten Tag nach Geld, Gebühren oder Bankinformationen fragen.

Wie wir anders sind

Wir glauben, dass die wirkungsvollste KI-Forschung große Wissenschaft sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen großangelegten Forschungsanstrengungen. Und wir schätzen den Einfluss — die Verfolgung unserer langfristigen Ziele für steuerbare, vertrauenswürdige KI — anstatt an kleineren und spezifischeren Rätseln zu arbeiten. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie zu tun hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir die wirkungsvollste Arbeit zu jedem Zeitpunkt verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, besteht darin, unsere aktuellen Forschungsarbeiten zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Kommen Sie zu uns!

Anthropic ist eine gemeinnützige Gesellschaft mit Sitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktien-Spendenabgleich, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können.