Auf fast jeder ATS-Demo taucht irgendwann derselbe Moment auf: ein Score neben einem Namen, ein grünes Häkchen, ein Satz wie „unsere KI hat das für Sie vorsortiert”. Was in diesem Moment selten gesagt wird, ist etwas Entscheidendes: Hat die KI dabei geholfen, oder hat sie entschieden und das Ergebnis nur wie Hilfe aussehen lassen?
Der Unterschied, den die meisten verwischen
Zwischen diesen beiden Dingen liegt kein feiner Grad, sondern eine Kategorie. Assistenz nimmt einem Menschen eine mechanische Aufgabe ab, die er ohnehin selbst richtig gemacht hätte. Ein Urteil ersetzt die Abwägung, die eigentlich ein Mensch treffen und später auch verantworten müsste. Das eine beschleunigt Ihre Arbeit. Das andere verschiebt eine Haftung an eine Stelle, die niemand unterschreiben würde, wenn man es ihr so erklären würde.
Intern gilt bei uns eine einfache Leitplanke, sobald ein neues KI-Feature auf dem Tisch liegt: Schlägt das Modell etwas vor, das ein Mensch noch prüft und notfalls verwirft? Oder trifft es die Sache selbst und verpackt das Ergebnis nur als Vorschlag? Alles, was wir ausliefern, muss die erste Frage mit Ja beantworten. Das ist keine Marketingzeile, sondern das Kriterium, an dem jedes Feature vor dem Launch scheitern kann.
Der Drei-Fragen-Test
Um diese Leitplanke auf ein konkretes Feature anzuwenden, reichen drei Fragen.
Könnte eine Person dasselbe in 30 Sekunden erledigen, mit denselben Informationen? Wenn ja, ist die KI ein Produktivitätsgewinn, nicht mehr. Aus Stichpunkten den ersten Entwurf einer Stellenanzeige bauen. Die Berufserfahrung einer Bewerberin in eine geordnete Zeitleiste bringen. Einen fünfseitigen Lebenslauf auf die drei Zeilen kürzen, die eine Hiring Manager:in tatsächlich braucht. Für einen konzentrierten Menschen sind das Sekundenaufgaben; die KI nimmt nur die Konzentration ab, die dafür nötig wäre.
Fällt die KI dabei ein Urteil, das später ein Mensch rechtfertigen müsste? Wenn ja, sind Sie im Entscheidungsbereich angekommen, und die KI darf dort nicht still das Sagen haben. Kandidat:innen nach „Fit” ranken. Automatisch absagen, weil ein Score unter einer Schwelle liegt. Aus einem Lebenslauf auf künftige Leistung schließen. Das sieht nach Unterstützung aus, hält der Prüfung aber nicht stand, sobald eine Bewerberin (oder eine Aufsichtsbehörde) fragt, warum genau sie abgelehnt wurde. „Das hat die KI so entschieden” ist keine Antwort, die trägt.
Ist die KI nachvollziehbar? Könnte eine Bewerberin genau erfragen, welche Rolle sie gespielt hat? Das ist die Frage, die Anhang III der EU-KI-Verordnung in Alltagssprache stellt: Recruiting-KI zählt dort zu den Hochrisikosystemen, und Bewerbende haben ein Recht darauf zu erfahren, ob ein automatisiertes System bei ihrer Absage eine wesentliche Rolle gespielt hat. Wenn die ehrliche Antwort nicht in einem Satz zu einer Person passt, sondern nur in eine Datenschutzerklärung, ist das System zu autonom gebaut. Gartners Befragung aus dem Jahr 2025 fand, dass nur 26 % der Bewerbenden einer KI zutrauen, sie fair zu bewerten, und 25 % einem Arbeitgeber danach weniger vertrauen, sobald sie erfahren, dass KI im Spiel war. Die Verordnung macht aus diesem Vertrauensproblem jetzt eine Offenlegungspflicht, statt es dem Anbieter zu überlassen, ob er es ernst nimmt.
Legt man die drei Fragen an die üblichen KI-Funktionen eines ATS an, ergeben sich vier klare Einschätzungen:
| Anwendungsfall | Einschätzung | Bedingung |
|---|---|---|
| Entwerfen (Stellenanzeigen, Screening-Fragen, Interview-Scorecards, Absage-Mails) | Uneingeschränkt | Ein Mensch liest vor dem Versand. Die KI löst das leere Blatt schneller; die Endfassung gehört weiterhin dem Menschen. |
| Sortieren | Ja, aber nachvollziehbar | Nach Aktualität, Vollständigkeit oder einem klar gekennzeichneten Match-Score sortieren, den die Nutzer:in einsehen und übersteuern kann. Nie stillschweigend ranken, nie automatisch absagen. |
| Bewerten | Nur wenn die Grundlage erklärbar ist | Ein Score auf Basis eines echten Assessments (die Person hat einen Test gemacht, hier ist das Ergebnis) ist in Ordnung. Der Test ist die Substanz. Ein „Persönlichkeits-Score” aus einem Lebenslauf ist es nicht. |
| Entscheiden | Nie | „Stellen Sie diese Person ein oder nicht” ist nicht die Sache der KI. Diese Haftung übernehmen wir für niemanden. |
Ein Einwand, der Substanz hat
Das klingt nach einem Grundsatz, den man sich in guten Zeiten leisten kann und in schlechten über Bord wirft. Ist es nicht, und die Zahlen zeigen auch, warum.
Es bedeutet konkret, dass wir weniger von den auffälligen KI-Funktionen ausliefern als manche Wettbewerber, die einer Kandidatin bedenkenlos einen Score verpassen und das als fertiges Ergebnis verkaufen. Es bedeutet auch, dass eine behördliche Prüfung für unsere Kund:innen kein Alptraum wird: Sie können ihren Einstellungsprozess in einem Satz beschreiben, der nicht mit „…und dann übernimmt irgendwie die KI” endet. Die Bußgelder aus Artikel 99 der Verordnung reichen bei Verstößen gegen Hochrisiko-Pflichten bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes. Für ein Unternehmen mit dreißig Mitarbeitenden ist das kein Bußgeld, das ist ein Umsatz, den es nicht gibt, weil es die Firma nicht mehr gibt.
Und der eigentliche Punkt liegt noch tiefer: Sie führen keinen Funnel mit 10.000 Bewerbungen, in dem eine automatische Absage der einzig praktikable Weg ist. Sie führen einen mit vierzig, und dort entscheidet nicht Software, sondern ob jemand die Zeit hatte, genau hinzusehen.
Was Sie beim nächsten Anbieter-Pitch fragen
Der Test lässt sich auf jedes KI-Feature anwenden, das Ihnen ein Anbieter zeigt, egal ob es von uns stammt oder nicht. Fragen Sie: Könnte ich das selbst in 30 Sekunden? Trifft die Software hier ein Urteil, das ich später vor einer Bewerberin oder einer Behörde vertreten müsste? Und könnte ich der Person, die gerade abgelehnt wurde, in einem Satz erklären, welche Rolle die KI dabei hatte?
Wenn eine der Antworten unangenehm wird, haben Sie gerade herausgefunden, wo der Anbieter Assistenz verkauft und in Wahrheit eine Entscheidung ausgelagert hat. Bei uns soll dieser Test nie unangenehm ausfallen, und das ist der Maßstab, an dem Sie uns genauso messen sollten wie jeden anderen.
