Untertitel: Warum der Gesamtmittelwert Fairness vortäuschen kann – und warum man schneiden muss, bevor man messen und nachbessern kann.
Der Jahresbericht zeigt: Ablehnungsquote 18 Prozent – „im grünen Bereich“. In einem Stadtteil und bei einer Fallgruppe liegt sie bei 34 Prozent. Im Durchschnitt war das unsichtbar.
Fairness wurde gemittelt. Verzerrung wurde weggerechnet.
Die These in einem Satz
Ohne Disaggregation bleibt das Bias-Audit blind – schneiden, messen, nachbessern; nie auto-richten.
Kein Segment-Score als Auto-Urteil. Keine Gerechtigkeits-KI. Sondern: Schnitte als Blickrichtung und Lernzyklen pro Segment – der Mensch bleibt Entscheider.
Wo Blindheit herkommt
Blindheit entsteht strukturell: ein Gesamtmittel als Beruhigung, keine Schnitte nach Ort, Team und Falltyp, kleine Zellen ignoriert oder überinterpretiert, Proxy-Merkmale als stille Ersatzdimensionen.
Dann wirkt der Bericht fair – bis man die Charge prüft. Wer nur den Durchschnitt der Serie misst, sieht nicht, welche Charge schief ist.
Was es nicht ist
Disaggregierte Bias-Audits sind kein Ersatz für Urteilskraft und kein Segment-Score, der allein bestraft. Sie steuern Aufmerksamkeit und Lernen – sie fällen keine Entscheidung.
Schnitte steuern den Blick. Segment-Audits steuern Lernen. Keines steuert das Urteil allein.
Drei Säulen
1. Schnittdimensionen mit Regeln
Ort, Team, Kanal, Falltyp, Zeitraum – sensible Merkmale nur mit Rechtsgrundlage. Mindeststichprobe und Unsicherheit ausweisen. Proxy-Bias mitdenken: Postleitzahl, Sprache und Kanalwahl können ersetzen, was man vermeintlich nicht misst. Messbar: Anteil Segmente mit klarer Schwellenlogik.
2. Segment-Audits als Lernzyklus
Periodisch und bei Segment-Auffälligkeit. Stichprobe, Peer-Review, dokumentierte Findings pro Schnitt. Jedes Finding braucht Owner, Termin und Nachmessung im Segment. Audit ohne Ort ist Image. Audit mit Schnitt und Zyklus ist Lernen.
3. Segment-Signal ist nicht Entscheidung
KI und Regeln dürfen markieren und priorisieren. Bewilligung, Ablehnung und Sanktion bleiben menschlich verantwortet. Keine Auto-Sanktion aus Segment-Scores. Disaggregation bauen heißt: schneiden, messen, erklären, nachbessern – nie das Urteil ersetzen.
Der kulturelle Kern
| Nur Gesamtmittel | Disaggregiert |
|---|---|
| „im grünen Bereich“ | Deltas pro Segment sichtbar |
| eine Quote für alle | Schnitte mit Schwellen |
| Bericht ohne Ort | Owner und Nachmessung vor Ort |
| Audit als Image | Audit als Lernzyklus |
Die Leitfrage: Behandeln wir den Durchschnitt als Entlastungsformel – oder als Einstieg, der ohne Schnitte lügt?
Entscheidungsfilter
- Würden wir Schieflagen sehen, die der Gesamtmittelwert versteckt?
- Sind Schnitte mit Mindest-n und Datenschutz definiert?
- Führen Segment-Findings zu Maßnahmen und Nachmessung?
- Bleibt der Mensch Entscheider – auch wenn ein Segment blinkt?
- Ist die Methodik erklärbar und proxy-aware?
Kurzformel
Schneiden · messen · nachbessern – nie auto-richten.
Ohne Disaggregation bleibt das Bias-Audit blind.
Video: Kurze narrated Präsentation (~4 Min): Bias-Audits_disaggregiert.mp4.