Untertitel: Warum Maschinen im Staat vorschlagen dürfen – aber nie allein über Menschen entscheiden.
Jemand bekommt eine Ablehnung und liest sinngemäß: „Das System hat geprüft.“
Niemand kann sagen, warum genau – und wer verantwortlich ist.
Gegen eine Person kann man reden. Gegen eine Blackbox fühlt man sich ausgeliefert.
Die These in einem Satz
Staatliche KI darf vorbereiten und erklären – entscheiden und verantworten muss ein Mensch, sichtbar und anfechtbar.
Das Problem
Verwaltung braucht Tempo und Konsistenz – genau dort hilft Automatisierung. Aber staatliche Entscheidungen greifen in Existenz, Rechte und Pflichten ein. Wenn KI allein ablehnt, bewilligt oder sanktioniert, verschleiern sich Gründe, Widerspruch wird zur Farce, Bias institutionalisiert sich.
Was es nicht ist
Kein Technikfeind. Keine Verweigerung von Effizienz. Keine „Gerechtigkeits-KI“, die Urteilskraft ersetzt. Sondern klare Rollen: Die Maschine schlägt vor. Der Mensch verantwortet.
Drei Säulen
1. Assistenz mit Erklärung
Formulare vorfüllen, fehlende Unterlagen, ähnliche Fälle als Hinweis. Jede Ausgabe: Vorschlag, Konfidenz, Quellen, „warum“ in Alltagssprache – nie als stiller Befehl.
2. Menschliche Letztentscheidung
Keine automatische Rechtswirkung ohne menschliche Zurechnung. Freigabe in definierter Frist bei Bewilligung, Ablehnung, Sanktion. Übernahmequote ohne Änderung ist ein Warnsignal.
3. Anfechtung, Audit, Korrektur
Widerspruch ohne Sonderwissen. Logging: Vorschlag vs. Entscheidung. Bias-Audits. Transparenz ist die Bedingung für Vertrauen – kein Extra.
Der kulturelle Kern
| Blackbox-Automat | Assistenz mit Verantwortung |
|---|---|
| „Das System hat geprüft“ | Mensch erklärt und steht dafür |
| Tempo ohne Zurechnung | Tempo mit Zurechnung |
| Ohnmacht gegen Maschine | Ansprechpartner und Anfechtung |
Entscheidungsfilter
- Kann ein Mensch erklären, warum – ohne „das System sagt“?
- Hat die KI-Ausgabe Rechtswirkung – oder nur Vorschlagscharakter?
- Gibt es Frist und Rolle für die menschliche Prüfung?
- Sind Empfehlungen anfechtbar und dokumentiert (Vorschlag vs. Entscheidung)?
Kurzformel
Die Maschine schlägt vor. Der Mensch verantwortet. Begründung bleibt.
Leitlinie: Maschine schlägt vor · Mensch verantwortet · Begründung bleibt
Serie System · Systembrief · Essay-Video auf YouTube @systembrief_de (Release laut Kalender).