Research Engineer, Cybersecurity RL (Reinforcement Learning) in Zürich

Über Anthropic

Anthropics Mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe von engagierten Forschern, Ingenieuren, Politikspezialisten und Geschäftsführern, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Über das Team

Das Sicherheitsteam schützt Anthropics KI-Systeme und erhält das Vertrauen unserer Nutzer und der Gesellschaft.

Über die Rolle

Bei Anthropic sind wir Pioniere neuer Grenzen in der KI, die das Potenzial haben, der Gesellschaft erheblich zu nutzen. Die Entwicklung fortschrittlicher KI birgt jedoch auch Risiken, wenn sie nicht ordnungsgemäß gesichert ist. Als Research Engineer helfen Sie dabei, die Fähigkeiten unserer Modelle in den Bereichen Incident Response, Sicherheitsanalyse, Schwachstellenbehebung und anderen Bereichen der defensiven Cybersicherheit sicher voranzutreiben.

Diese Rolle verbindet Forschung und Ingenieurwesen und erfordert, dass Sie sowohl neuartige Ansätze entwickeln als auch diese in Code umsetzen. Ihre Arbeit umfasst das Entwerfen und Implementieren von RL-Umgebungen, das Durchführen von Experimenten und Bewertungen, das Bereitstellen Ihrer Arbeit in Produktionsschulungsdurchläufen sowie die Zusammenarbeit mit anderen Forschern, Ingenieuren und Cybersicherheitsspezialisten innerhalb und außerhalb von Anthropic.

Diese Rolle erfordert ML-Erfahrung kombiniert mit Fachwissen im Bereich Cybersicherheit. Sie könnten ein ML-Forscher mit einer Geschichte in der Cybersicherheitsarbeit sein oder ein Sicherheitsexperte mit einem Hintergrund in ML.

Verantwortlichkeiten

• Zusammenarbeit mit Forschern und Sicherheitsteams bei Anthropic, um deren analytische Bedürfnisse zu verstehen und Lösungen zu entwickeln.
• Entwicklung agentischer Integrationen, die es KI-Systemen ermöglichen, autonom analytische Ergebnisse zu untersuchen und darauf zu reagieren.
• Beitrag zur strategischen Ausrichtung des Teams, einschließlich Entscheidungen darüber, was gebaut werden soll, woran man sich beteiligen sollte und wo investiert werden soll.
• Diese Rolle kann die Teilnahme an einer Rufbereitschaft erfordern.

Sie könnten gut passen, wenn Sie:

• Erfahrung mit maschinellem Lernen haben.
• Erfahrung in der Cybersicherheitsforschung haben.
• Starke Software-Ingenieurfähigkeiten besitzen.
• Forschungserkundung mit Ingenieureinführung ausbalancieren können.
• Leidenschaft für das Potenzial von KI haben und sich für die Entwicklung sicherer und vorteilhafter Systeme einsetzen.

Starke Kandidaten könnten auch folgende Qualifikationen haben:

• Berufserfahrung in der Sicherheitsingenieurwissenschaft, Fuzzing, Erkennung und Reaktion oder anderer angewandter defensiver Arbeit.
• Erfahrung in der Teilnahme an oder dem Aufbau von CTF-Wettbewerben und Cyber-Ranges.
• Akademische Forschungserfahrung in der Cybersicherheit oder einem anderen experimentellen und forschungsbezogenen Hintergrund.
• Vertrautheit mit RL-Techniken und -Umgebungen.
• Vertrautheit mit LLM-Trainingsmethoden.

Logistik

• Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung.
• Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, wie durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen.
• Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen für die Position.
• Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.
• Visumsponsoring: Wir sponsern Visa! Allerdings können wir nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.

Nicht alle starken Kandidaten werden jede einzelne aufgeführte Qualifikation erfüllen. Forschung zeigt, dass Personen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher dazu neigen, Imposter-Syndrom zu erleben.