Staff / Senior Software Engineer (Agentic Search) - Crawler in Zürich

Über Nebius: Nebius führt eine neue Ära in der Cloud-Infrastruktur für die globale KI-Wirtschaft an. Wir bauen eine Full-Stack-AI-Cloud-Plattform, die Entwicklern und Unternehmen von der Daten- und Modellschulung bis zur Produktionsbereitstellung unterstützt, ohne die Kosten und die Komplexität des Aufbaus großer interner AI/ML-Infrastrukturen. Von Ingenieuren für Ingenieure gebaut. Von der großflächigen GPU-Orchestrierung bis zur Optimierung der Inferenz lösen wir die schwierigen Probleme in den Bereichen Compute, Storage, Networking und angewandte KI.

Das Produkt: In einer sich schnell entwickelnden Welt hängt das Vertrauen in KI davon ab, dass KI-Agenten auf frischen, verifizierten realen Daten basieren. Die Suche ist die Grundlage, die dies ermöglicht. Wir bauen eine agent-native Suchplattform, die speziell für KI-Systeme und nicht für menschliche Benutzer entwickelt wurde. Unser Produkt bietet programmatische, latenzarme und beobachtbare Such-APIs, die KI-Agenten verwenden, um reale Informationen in großem Maßstab abzurufen, zu filtern und zu verarbeiten.

Die Rolle: Wir suchen einen Senior Software Engineer, der an der Inhaltsakquise und der Crawling-Infrastruktur einer neuartigen Suchmaschine arbeitet, die auf den Verbrauch durch agentische KI zugeschnitten ist. In dieser Rolle konzentrieren Sie sich auf den Aufbau von Systemen, die Inhalte aus dem offenen Web und anderen großflächigen Datenquellen entdecken, abrufen und kontinuierlich aktualisieren. Sie entwerfen verteilte Crawling-, Planungs- und Ingestionsinfrastrukturen, die in der Lage sind, im Internetmaßstab zu arbeiten, während Sie Abdeckung, Aktualität, Ressourceneffizienz und Zuverlässigkeit ausbalancieren. Sie arbeiten an Systemen, die Milliarden von URLs verarbeiten, hochdurchsatzfähige Datenströme verwalten und sicherstellen, dass qualitativ hochwertige Inhalte konsistent für nachgelagerte Indexierungs- und Abrufsysteme verfügbar sind.

In dieser Position sind Ihre Verantwortlichkeiten:

• Entwurf, Implementierung und Betrieb von Web-Skalierungs-Crawling-Systemen zur Akquise von Inhalten aus dem Internet
• Aufbau von Ingestions-Workflows für interne und externe Datenquellen, einschließlich Crawler, strukturierte Feeds und Partnerintegrationen
• Entwicklung von Crawl-Planung, Priorisierung, Wiederholungsrichtlinien und Aktualisierungsstrategien
• Aufbau von Systemen zur URL-Entdeckung, Duplikationserkennung, Inhaltsextraktion und Crawl-Orchestrierung
• Sicherstellung des zuverlässigen Betriebs der Crawling-Infrastruktur unter Hochdurchsatzbedingungen
• Definition von Beobachtungs- und Qualitätsmetriken für Crawl-Abdeckung, Aktualität, Durchsatz und Inhaltsqualität
• Überwachung des Ressourcenverbrauchs, der Bandbreitennutzung und der Infrastrukturkosten
• Zusammenarbeit mit Indexierungs- und ML-Teams, um sicherzustellen, dass die akquirierten Inhalte den Anforderungen an Abruf und Ranking entsprechen
• Ermöglichung sicherer Experimente mit Crawling-Strategien und Inhaltsakquisitionsrichtlinien

Sie könnten gut passen, wenn Sie:

• 5+ Jahre Erfahrung im Aufbau von Backend- oder verteilten Systemen haben
• Starke Go- oder C++-Expertise besitzen
• Erfahrung mit großflächigen verteilten Systemen (10k+ RPS, Milliarden von URLs, hochdurchsatzfähige Pipelines) haben
• Verständnis von Web-Protokollen (HTTP, DNS, TLS), Crawling, Scraping und Inhaltsextraktion haben
• Erfahrung im Betrieb von Produktionssystemen und im Debuggen von Fehlern in verteilten Umgebungen haben
• Ein starkes Verständnis von Skalierbarkeit, Fehlertoleranz und Ressourcenmanagement haben

Starke Kandidaten haben möglicherweise auch Erfahrung mit:

• Web-Crawling
• Aufbau von Streaming-Datenpipelines und ereignisgesteuerten Systemen
• Kafka, Pulsar, NATS, RabbitMQ oder ähnlichen Messaging-Plattformen
• Entwurf verteilter Scheduler, Warteschlangen und asynchroner Verarbeitungssysteme
• Spark, Flink, Beam oder MapReduce
• Ad-Tech, soziale Netzwerke, Suchmaschinen oder andere großflächige Inhaltsplattformen

Wir führen Programmierinterviews als Teil des Prozesses durch.

Vorteile & Anreize:

• Wettbewerbsfähige Vergütung
• Karrierewachstum und Lernmöglichkeiten
• Flexibilität und Eigenverantwortung
• Kollaborative und innovative Kultur
• Gelegenheit, an bedeutenden KI-Projekten zu arbeiten
• Internationales Umfeld und talentierte Teams

Wie ist es, bei Nebius zu arbeiten: Schnelllebig - Mutiges Denken - Ständiges Wachstum - Bedeutungsvolle Auswirkungen - Vertrauen und echte Verantwortung - Gelegenheit, die Zukunft der KI zu gestalten.

Gleichstellungserklärung: Nebius ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns dafür ein, ein integratives und diverses Arbeitsumfeld zu fördern und Chancengleichheit in allen Aspekten der Beschäftigung zu bieten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen durch geltendes Recht geschützten Eigenschaft. Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen einen Nachweis über die Beschäftigungsberechtigung als Bedingung für die Einstellung vorlegen. Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.