Auf einen Blick
- Aufgaben: Entwickle herausfordernde Prompts und teste die Sicherheit von KI-Modellen.
- Unternehmen: Führendes Unternehmen im Bereich KI-Sicherheit mit innovativer Kultur.
- Vorteile: Flexibles Arbeiten, wettbewerbsfähiges Gehalt und Weiterbildungsmöglichkeiten.
- Weitere Informationen: Dynamisches Umfeld mit großartigen Karrierechancen.
- Warum dieser Job: Gestalte die Zukunft der KI-Sicherheit und arbeite mit Experten zusammen.
- Qualifikationen: Erfahrung in KI-Sicherheit und starke analytische Fähigkeiten erforderlich.
Das prognostizierte Gehalt liegt zwischen 81000 - 99000 CHF pro Jahr.
Wir suchen erfahrene AI Safety Red Teamers, um Schwachstellen in fortschrittlichen KI-Systemen durch adversariales Testen zu identifizieren. Sie werden herausfordernde Eingabeaufforderungen entwerfen, Modellschwächen aufdecken und das Verhalten von KI in komplexen, risikobehafteten und mehrdeutigen Themen bewerten.
Verantwortlichkeiten
- Entwerfen von adversarialen Eingabeaufforderungen, um fortschrittliche KI-Modelle zu testen.
- Identifizieren von Jailbreaks, unsicheren Verhaltensweisen, Halluzinationen und Politikfehlern.
- Bewerten der Robustheit von Modellen in Bezug auf Fehlinformationen, Cyber-, Bio-Sicherheit, Betrug, politische Inhalte und andere sensible Bereiche.
- Dokumentieren von Schwachstellen und Mitwirken an Sicherheitsbenchmarks und Red-Teaming-Berichten.
- Zusammenarbeiten mit KI-Forschern zur Verbesserung der Modellanpassung, Robustheit und Sicherheit.
Erforderliche Qualifikationen
- Abschluss oder höher in Informatik, Cybersicherheit, Journalismus, Kommunikation, Psychologie, Biologie, Chemie, öffentlicher Politik oder einem verwandten Fachgebiet.
- Über 5 Jahre Berufserfahrung in AI Safety, AI Red Teaming, Trust & Safety, Cybersicherheit, investigativem Journalismus, Lebenswissenschaften oder einem verwandten Bereich.
- Starke analytische Fähigkeiten, Eingabeaufforderungsdesign und schriftliche Kommunikationsfähigkeiten.
- Erfahrung im Entwerfen von adversarialen Eingabeaufforderungen oder der Bewertung fortschrittlicher KI-Systeme.
Bevorzugte Qualifikationen
- Erfahrung mit AI Red Teaming, RLHF, SFT, KI-Ausrichtung oder Trust & Safety.
- Vertrautheit mit Jailbreak-Tests, Eingabeaufforderungsengineering oder Methoden zur adversarialen Bewertung.
- Expertise in einem oder mehreren Graubereichen, einschließlich Cyber-, Bio-Sicherheit, politischen Inhalten, Fehlinformationen oder wissenschaftlicher Sicherheit.
Warum beitreten?
- Helfen Sie, die nächste Generation fortschrittlicher KI-Modelle zu sichern und zu stärken.
- Arbeiten Sie an modernsten adversarialen Tests zusammen mit führenden KI-Forschern und Sicherheitsteams.
- Beeinflussen Sie, wie KI-Systeme auf komplexe, reale Sicherheitsherausforderungen reagieren.
AI Safety Specialist - Remote in Zürich Arbeitgeber: Mercor
Mercor bietet eine flexible Arbeitsumgebung, die es Ihnen ermöglicht, Ihre Stimme in einem professionellen Setup für innovative KI-Projekte einzusetzen. Mit einem starken Fokus auf Mitarbeiterentwicklung und einem unterstützenden Teamklima fördern wir kreatives Arbeiten und bieten Ihnen die Möglichkeit, an spannenden Technologien mitzuarbeiten. Unsere Unternehmenskultur schätzt Vielfalt und Inklusion, was uns zu einem attraktiven Arbeitgeber für alle macht, die eine sinnvolle und erfüllende Tätigkeit suchen.
Jobgipfel Expertenrat🤫
Wir sind der Meinung, dass du so AI Safety Specialist - Remote in Zürich erhalten könntest
✨Netzwerke im Cybersecurity-Bereich
Mach dich in Cybersecurity-Communities wie ISACA oder (ISC)² bemerkbar. Das sind super Plattformen, um Gleichgesinnte zu treffen und Kontakte zu knüpfen, die dich an spannende Stellen holen können. Sei aktiv in Forums und Veranstaltungen, um dein Wissen zu teilen und sichtbar zu werden.
✨Teilnahme an Hackathons
Hackathons sind eine Top-Möglichkeit, um praktische Erfahrung zu sammeln und gleichzeitig dein Netzwerk auszubauen. Melde dich an für Events in deiner Nähe oder online und zeig, was du kannst. Oft suchen Arbeitgeber direkt zwischen den Teilnehmenden nach neuen Talenten!
✨Positioniere dich als Experte
Erstelle Inhalte wie Blogposts oder Videos zu beliebten Themen in der IT-Sicherheit. Teile dein Wissen auf LinkedIn oder anderen sozialen Medien, um deine Expertise zu demonstrieren. Das zieht potenzielle Arbeitgeber an und steigert deine Sichtbarkeit in der Branche.
✨So bewirbst du dich direkt bei Mercor
Wenn du ein Auge auf eine Stelle bei Mercor geworfen hast, dann bewirb dich direkt über unsere Website. Das zeigt dein Interesse und gibt dir die Chance, deinen Werdegang und deine Leidenschaft für IT-Sicherheit gezielt zu präsentieren.
Wir glauben, dass du diese Fähigkeiten brauchst, um AI Safety Specialist - Remote in Zürich mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Betone Deine IT-Sicherheitsfähigkeiten:Wenn Du Dich für die Stelle bei Mercor als AI Safety Specialist - Remote bewirbst, hebe Deine technischen Fähigkeiten in der IT-Sicherheit hervor. Zeig, welche Tools und Technologien Du beherrschst, sei es Netzwerk-Sicherheit, Penetration Testing oder Cybersecurity-Standards. Das gibt uns ein klares Bild von Deinem Wissen und Deinen Fähigkeiten in diesem speziellen Bereich.
Zertifikate sind Gold wert!:Im Bereich IT-Sicherheit sind Zertifikate wie CompTIA Security+, CISSP oder CEH extrem wichtig. Wenn Du so etwas in Deinem CV oder Deinen Dokumenten hast, solltest Du das unbedingt erwähnen. Das zeigt, dass Du nicht nur theoretisches Wissen hast, sondern auch die erforderliche Qualifikation, um in diesem komplexen Bereich zu arbeiten.
Motivationsschreiben mit Fokus auf praktische Erfahrung:Da es sich um eine Vollzeitstelle handelt, schau, dass Du in Deinem Motivationsschreiben nicht nur Deine fachlichen Fähigkeiten, sondern auch Deine praktischen Erfahrungen in der IT-Sicherheitsbranche betont. Hast Du an Projekten gearbeitet, die Deine Fähigkeiten zeigen? Das sollten wir unbedingt lesen!
Verlinke Deine Online-Präsenz:Falls Du an relevanten Projekten gearbeitet hast oder einen Blog über IT-Sicherheit führst, vergiss nicht, Links dazu in Deine Bewerbung aufzunehmen. Das gibt uns die Möglichkeit, Deine praktische Anwendung von IT-Sicherheitskenntnissen zu sehen und zeigt, dass Du aktiv im Thema bist. Bewirb Dich direkt über unsere Website — wir freuen uns darauf!
Wie man sich auf ein Vorstellungsgespräch bei Mercor vorbereitet
✨Versteh die Basis der IT-Sicherheit
Mach dich mit den Grundlagen der IT-Sicherheit vertraut. Wichtige Themen wie Verschlüsselung, Netzwerksicherheit und Sicherheitsprotokolle werden oft in Interviews angesprochen. Bereite dich darauf vor, technische Fragen zu beantworten und verschiedene Szenarien zu durchdenken.
✨Zeig deinen Erfahrungshorizont
Wenn du praktische Erfahrung hast, bring deinen Lebenslauf mit Beispielen, die deine Fähigkeiten in der IT-Sicherheit zeigen. Sei bereit, über Tools, die du verwendet hast, wie Firewall- und Intrusion Detection Systeme, zu sprechen und wie du Probleme gelöst hast.
✨Simuliere Sicherheitsvorfälle
Bereite dich darauf vor, mögliche Sicherheitsvorfälle zu simulieren oder zu diskutieren. Du könntest gefragt werden, wie du auf bestimmte Bedrohungen reagieren würdest oder welche Maßnahmen du zur Risikominderung empfehlen würdest. Das zeigt dein praktisches Denken und dein Verständnis für die Materie.
✨Bring deine Initiative mit
In der IT-Sicherheit ist es wichtig, ständig am Puls der Zeit zu bleiben. Zeig deinen Willen zur Weiterbildung und wie du mit aktuellen Bedrohungen und Trends in der Branche umgehst. Diskutiere deine persönlichen Projekte oder Weiterbildungen, um zu zeigen, dass du dich proaktiv mit dem Thema beschäftigst.
