zuletzt aktualisiert 19. August 2026
Ein Team bei Google DeepMind empfiehlt Bewerbern einen zusätzlichen Weg, damit ihre Unterlagen direkt von den zuständigen Fachleuten gesehen werden. Ein internes Dokument warnt vor dem Risiko, dass Lebensläufe im regulären Prozess fälschlicherweise aussortiert werden oder zu spät beim Team ankommen. Google widerspricht der Interpretation, dass das eigene System Kandidaten fehlerhaft herausfiltert. Für HR wirft der Fall trotzdem eine wichtige Frage auf: Wie gut waren eigentlich die Bewerber, die ein automatisiertes Screening aussortiert hat?
Wie Bloomberg berichtet (Paywall), fordert das AGI Safety and Alignment Team von Google DeepMind Bewerber für offene Stellen dazu auf, zusätzlich zur regulären Bewerbung ein separates Formular auszufüllen.
Die Begründung in dem von Bloomberg eingesehenen Dokument ist bemerkenswert: Es bestehe eine „non-trivial probability“, dass ein Lebenslauf fälschlicherweise aussortiert werde oder zu lange brauche, um das zuständige Team zu erreichen. Über das zusätzliche Formular sollen Bewerbungen direkt von Mitgliedern des Teams gesehen werden. (straitstimes.com)
Google widerspricht: Der Filter sei nicht fehlerhaft
Google DeepMind weist eine naheliegende Interpretation der Meldung zurück.
Ein Sprecher erklärte gegenüber Bloomberg, die internen Systeme würden Bewerber nicht fehlerhaft herausfiltern. Das zusätzliche Formular solle vielmehr die Recruiter-Ebene umgehen und Bewerbungen unmittelbar an das Fachteam weiterleiten. Eine Abkürzung im eigentlichen Auswahlverfahren sei das nicht.
Welche technische Komponente für das im internen Dokument beschriebene Risiko verantwortlich ist, bleibt offen. Öffentlich bekannt sind weder konkrete Fehlerquoten noch Details darüber, wie das betreffende Screening technisch funktioniert.
Die Meldung ist deshalb kein Beleg dafür, dass Google eingeräumt hätte, eine bestimmte KI sortiere systematisch geeignete Bewerber aus.
Das eigentliche Problem ist allgemeiner – und für HR möglicherweise wichtiger.
Warum automatisiertes Bewerber-Screening False Negatives übersieht
Bei automatisierter Bewerberauswahl gibt es zwei grundsätzlich unterschiedliche Arten von Fehlern.
Wird ein ungeeigneter Kandidat fälschlicherweise weitergeleitet, fällt das spätestens bei einer späteren menschlichen Prüfung auf.
Wird dagegen ein geeigneter Kandidat bereits vorher aussortiert, sieht möglicherweise niemand den Fehler.
Im Machine Learning spricht man von einem False Negative: Ein eigentlich relevanter Fall wird fälschlicherweise als nicht relevant eingestuft.
Im Recruiting bedeutet das konkret: Ein potenziell geeigneter Bewerber verlässt den Prozess, bevor ein Mensch seine Eignung überhaupt beurteilt hat.
Besonders kritisch wird das, wenn solche Fehler nicht zufällig verteilt sind, sondern bestimmte Bewerbergruppen systematisch benachteiligen: Genau wegen möglicher Auswirkungen auf Chancengleichheit und Grundrechte stuft der EU AI Act KI-Systeme, die wesentlich für Recruiting und Bewerberauswahl eingesetzt werden, grundsätzlich als Hochrisiko-KI ein.
Genau solche Fehler sind schwer zu messen.
Unternehmen beobachten typischerweise Kennzahlen wie Time-to-Hire, Cost-per-Hire, Anzahl bearbeiteter Bewerbungen oder die Qualität später eingestellter Mitarbeiter. Daraus lässt sich jedoch kaum erkennen, ob gute Kandidaten bereits in einer früheren Auswahlstufe verloren gegangen sind.
Die entscheidende Kontrollfrage lautet deshalb:
Wie gut waren die Bewerber, die das System aussortiert hat?
Wer nur die ausgewählten Kandidaten analysiert, kennt lediglich die eine Hälfte der Qualität seines Auswahlprozesses.
Warum „Human in the Loop“ im Recruiting nicht ausreicht
Häufig lautet die Antwort auf Risiken automatisierter Entscheidungen: Am Ende müsse eben ein Mensch entscheiden.
Das reicht jedoch nicht zwangsläufig.
Wenn Recruiter ausschließlich diejenigen Bewerbungen sehen, die ein vorgelagertes System ausgewählt oder hoch gerankt hat, können sie nur diese Auswahl kontrollieren. Sie wissen nicht, welche Kandidaten ihnen gar nicht erst gezeigt wurden.
Human in the Loop ist deshalb nicht automatisch wirksame menschliche Kontrolle.
Noch anspruchsvoller wird diese Kontrolle, wenn KI nicht nur Bewerber bewertet oder priorisiert, sondern als Agent selbstständig weitere Prozessschritte ausführt und dadurch neue Anforderungen an Human Oversight, Verantwortung und Governance entstehen.
Qualitätssicherung muss auch die Nicht-Auswahl untersuchen. Denkbar wären beispielsweise:
- regelmäßige Stichproben aus automatisch abgelehnten oder niedrig gerankten Bewerbungen,
- Messung von False-Negative-Raten,
- getrennte Auswertung nach Stellenarten und relevanten Kandidatengruppen,
- dokumentierte Kriterien für Ranking und Vorauswahl,
- erneute Validierung nach Änderungen an Modellen, Prompts oder Prozessen,
- klare Eskalations- und Override-Möglichkeiten für Recruiter.
Damit verschiebt sich die Frage von „Mensch oder KI?“ zu einem wesentlich konkreteren Governance-Problem:
Wie überprüft HR Entscheidungen, deren Fehler sonst unsichtbar bleiben?
Google vermarktet selbst KI für HR-Prozesse
Zusätzliche Aufmerksamkeit bekommt der Fall, weil Google gleichzeitig KI-Anwendungen für Personalabteilungen anbietet.
Auf seiner Workspace-Seite für HR beschreibt das Unternehmen unter anderem den Einsatz von Gemini im Recruiting. Mit Workspace Studio sollen sich zudem HR-Prozesse automatisieren lassen, darunter auch die Bearbeitung und Prüfung von Lebensläufen.
Daraus folgt allerdings nicht automatisch, dass diese Produkte technisch mit dem internen Bewerbungsprozess von DeepMind identisch sind.
Der Vorgang taugt daher nicht als Beweis dafür, dass Googles kommerzielle HR-KI generell unzuverlässig wäre. Er zeigt vielmehr, warum automatisierte Vorauswahl nicht allein anhand von Geschwindigkeit und eingesparter Arbeitszeit beurteilt werden sollte.
KI optimiert inzwischen beide Seiten des Recruiting-Prozesses
Der Bloomberg-Bericht enthält noch einen zweiten interessanten Hinweis.
Das DeepMind-Team empfiehlt Bewerbern offenbar, ihre Antworten nicht einfach vollständig von großen Sprachmodellen formulieren zu lassen. Die menschlichen Leser würden sich an ähnlich klingenden LLM-Antworten ermüden.
Damit zeigt sich ein grundlegender Wandel im Recruiting.
Bewerber nutzen generative KI, um Lebensläufe, Anschreiben und Bewerbungsantworten schneller zu erstellen oder gezielt zu optimieren. Arbeitgeber wiederum setzen stärker auf Automatisierung, um große Mengen professionell wirkender Bewerbungen zu verarbeiten.
Es entsteht ein paradoxer Kreislauf:
KI hilft Bewerbern, Auswahlverfahren zu optimieren. KI hilft Unternehmen, diese Bewerbungen zu sortieren. Und Menschen versuchen anschließend herauszufinden, welche Kandidaten hinter immer ähnlicher werdenden Unterlagen tatsächlich interessant sind.
Die wichtigste Kennzahl fehlt oft
Die plakative Interpretation der Meldung wäre:
Selbst Googles KI-Forscher vertrauen KI im Recruiting nicht.
Dafür geben die bekannten Fakten zu wenig her.
Der interessantere Befund ist: Ein hoch spezialisiertes Team sah offenbar einen ausreichenden Grund, einen zusätzlichen Weg einzurichten, damit Bewerbungen direkt bei ihm ankommen und das AI-Scoring zu umgehen.
Für HR-Abteilungen ergibt sich daraus eine wesentlich nützlichere Frage:
Woher wissen wir, dass unser Screening-System nicht gerade die Bewerber aussortiert, die wir eigentlich gesucht haben?
Effizienz allein beantwortet diese Frage nicht.
Ein System kann die Zahl der zu prüfenden Bewerbungen drastisch reduzieren und gleichzeitig relevante Kandidaten verlieren. Solange Unternehmen diese Nicht-Auswahl nicht systematisch kontrollieren, bleibt ein entscheidender Teil der Qualität ihres Recruiting-Prozesses unbekannt.
Ein automatisierter Auswahlprozess ist deshalb erst dann wirklich kontrolliert, wenn HR nicht nur weiß, wen das System auswählt, sondern auch, wen es übersieht.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
Jetzt hier abonnieren
