KI in Behörden.
Der Staat setzt KI ein — bei Steuerbescheiden, Sozialleistungen, in der Gefahrenabwehr und der Justiz. Für Bürgerinnen und Bürger geht es dabei um hoheitliche Entscheidungen über Rechte und Leistungen. Das Recht setzt enge Grenzen: Ein vollautomatisierter Verwaltungsakt ist nur zulässig, wenn ein Gesetz ihn erlaubt und kein Ermessen besteht (§ 35a VwVfG); die KI-VO stuft Verwaltungs-KI vielfach als Hochrisiko ein, und Social Scoring durch Behörden ist verboten. Rechtsstand 2026.
Das Wichtigste in Kürze.
Die Kernpunkte für Bürgerinnen, Bürger und die Verwaltung selbst. Einzelheiten samt Normen und Rechtsprechung folgen in den Kapiteln.
KI in der Verwaltung — kompakt.
Sechs Punkte, die bei hoheitlichen KI-Entscheidungen zählen.
- Ein vollautomatisierter Verwaltungsakt ist nur zulässig, wenn ihn eine Rechtsvorschrift erlaubt und weder Ermessen noch Beurteilungsspielraum besteht (§ 35a VwVfG).
- Jeder belastende Bescheid braucht eine nachvollziehbare Begründung (§ 39 VwVfG) — auch wenn KI beteiligt war.
- KI in Sozialleistungen, Bonität, Strafverfolgung, Migration und Justiz gilt nach der KI-VO als Hochrisiko (Anhang III Nr. 5–8).
- Social Scoring durch Behörden ist nach Art. 5 KI-VO verboten.
- Gegen automatisierte Entscheidungen greifen Art. 22 DSGVO und der Anspruch auf Erläuterung der Logik.
- Der Gleichheitssatz (Art. 3 GG) verbietet diskriminierende Verwaltungs-KI.
KI-Risiko- & Anspruchs-Rechner
Stufen Sie eine Verwaltungs-KI in die Risikoklassen der KI-Verordnung ein und prüfen Sie die Pflichten.
Zu den RechnernSchreiben-Konfigurator
Widerspruch gegen einen Bescheid, Antrag auf Begründung und Auskunft über die Logik einer KI-Entscheidung.
Schreiben erstellen1.Wo der Staat KI einsetzt.
Von der Steuerveranlagung bis zur Polizeiarbeit: KI hält Einzug in die Verwaltung. Weil es um Hoheitsgewalt geht, sind die Anforderungen besonders hoch.
Wenn eine Behörde KI einsetzt, entscheidet sie mit KI über Rechte, Leistungen und Eingriffe. Damit gelten nicht nur DSGVO und KI-VO, sondern zusätzlich die rechtsstaatlichen Bindungen des Verwaltungsrechts: Gesetzmäßigkeit, Begründung, rechtliches Gehör und Rechtsschutz.
- Leistungsverwaltung. Steuerbescheide, Sozial- und Kindergeldleistungen, Förderungen.
- Eingriffsverwaltung. Gefahrenabwehr, polizeiliche Datenanalyse, Betrugserkennung.
- Migration & Grenze. Prüfung von Anträgen, Risikobewertung.
- Justiz. Unterstützung bei Recherche, Anonymisierung, Priorisierung.
2.Der vollautomatisierte Bescheid.
Ob ein Bescheid „per Knopfdruck" ergehen darf, ist gesetzlich klar geregelt — und die Hürde ist hoch.
Ein vollständig automatisierter Erlass eines Verwaltungsakts ist nach § 35a VwVfG nur zulässig, soweit dies durch Rechtsvorschrift zugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht. Parallele Regelungen gelten im Steuerrecht (§ 155 Abs. 4 AO) und im Sozialrecht (§ 31a SGB X). Wo also gebundene Massenentscheidungen anstehen (z. B. rechnerische Steuerfestsetzung), ist Automatisierung möglich — wo Abwägung gefragt ist, nicht.
Automatisierung möglich
- Gesetzliche Zulassung vorhanden
- Gebundene Entscheidung ohne Ermessen
- Kein Beurteilungsspielraum im Einzelfall
- Rechnerisch/tatbestandlich eindeutige Fälle
Automatisierung unzulässig
- Ermessens- oder Abwägungsentscheidung
- Beurteilungsspielraum (z. B. Prognosen)
- Keine gesetzliche Grundlage für Vollautomatik
- Atypischer Einzelfall, der Würdigung verlangt
Begründung & rechtliches Gehör.
Jeder belastende Verwaltungsakt ist zu begründen (§ 39 VwVfG): Die wesentlichen tatsächlichen und rechtlichen Gründe müssen mitgeteilt werden. Ein Verweis auf „die Software" genügt nicht. Vor belastenden Entscheidungen ist grundsätzlich Anhörung zu gewähren (§ 28 VwVfG). Fehler bei Begründung oder Anhörung machen den Bescheid anfechtbar.
Tipp der Redaktion
Erscheint ein Bescheid maschinell und ohne echte Begründung, verlangen Sie ausdrücklich die tragenden Gründe und — bei automatisierter Verarbeitung — Auskunft über die Logik (Art. 15 DSGVO). Beachten Sie die Rechtsbehelfsfrist (meist ein Monat) und legen Sie fristgerecht Widerspruch bzw. Klage ein.
3.Hochrisiko und verbotene Praktiken.
Die KI-VO nimmt den Staat besonders in die Pflicht — und verbietet ihm bestimmte KI ausdrücklich.
Große Teile der Verwaltungs-KI fallen nach Anhang III KI-VO in die Hochrisiko-Klasse — insbesondere KI für den Zugang zu grundlegenden öffentlichen Leistungen (Nr. 5, z. B. Sozialleistungen, Bonitätsbewertung, Notrufe), für die Strafverfolgung (Nr. 6), für Migration, Asyl und Grenzkontrolle (Nr. 7) sowie für Rechtspflege und demokratische Prozesse (Nr. 8). Damit gelten strenge Pflichten zu Aufsicht, Transparenz und Dokumentation.
Social Scoring ist verboten. Die Bewertung oder Einstufung von Personen anhand ihres sozialen Verhaltens mit benachteiligender Wirkung durch Behörden ist nach Art. 5 Abs. 1 lit. c KI-VO untersagt — seit dem 2. Februar 2025. Ebenfalls verboten sind u. a. bestimmte biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum und manipulative Systeme.
Welche Klasse eine konkrete Anwendung trifft, zeigt der Risikoklassen-Rechner. Die Hochrisiko-Pflichten greifen ab dem 2. August 2026.
4.Automatisierte Entscheidung und Datenschutz.
Was der EuGH für private Scores entschieden hat, prägt auch die staatliche KI-Entscheidung über Menschen.
Nach Art. 22 DSGVO darf niemand einer ausschließlich automatisierten Entscheidung mit erheblicher Wirkung unterworfen werden — ohne gesetzliche Grundlage und Schutzmaßnahmen. Der EuGH hat entschieden, dass schon die Erstellung eines Scores eine solche Entscheidung sein kann, wenn ein Dritter maßgeblich darauf abstellt (EuGH, 07.12.2023, C-634/21 — SCHUFA), und dass Betroffene eine verständliche Erläuterung der Logik verlangen können (EuGH, 27.02.2025, C-203/22 — Dun & Bradstreet). Diese Maßstäbe gelten erst recht für hoheitliche KI-Bewertungen.
Hinzu kommt der verwaltungsrechtliche Amtsermittlungsgrundsatz (§ 24 VwVfG): Die Behörde muss den Sachverhalt selbst aufklären und darf sich nicht blind auf ein KI-Ergebnis verlassen. Die Verantwortung für die Entscheidung bleibt bei der Behörde.
Ihre Rechte im Verwaltungsverfahren. Akteneinsicht (§ 29 VwVfG), Auskunft und Erläuterung nach der DSGVO, Anhörung (§ 28), Widerspruch und Klage vor dem Verwaltungsgericht. Für Datenschutzverstöße können Sie zudem die zuständige Aufsichtsbehörde einschalten (Art. 77 DSGVO).
5.Gleichheit und Rechtsschutz.
Zwei Grundrechte rahmen die staatliche KI: der Gleichheitssatz und die Garantie effektiven Rechtsschutzes.
Diskriminierungsverbot.
Der allgemeine Gleichheitssatz (Art. 3 Abs. 1 GG) und die besonderen Diskriminierungsverbote (Art. 3 Abs. 3 GG) binden die Verwaltung unmittelbar. Eine KI, die aus verzerrten Daten systematisch benachteiligt — etwa nach Herkunft oder Geschlecht — verletzt diese Bindung. Der Staat muss die Diskriminierungsfreiheit seiner Systeme sicherstellen und nachweisen können.
Effektiver Rechtsschutz.
Die Rechtsweggarantie (Art. 19 Abs. 4 GG) verlangt, dass hoheitliche Entscheidungen vollständig gerichtlich überprüfbar bleiben. Das setzt Nachvollziehbarkeit voraus: Eine „Black-Box"-Entscheidung, deren Grundlagen niemand erklären kann, ist mit dem Rechtsstaat nicht vereinbar. Menschliche Letztverantwortung und Transparenz sind daher nicht verhandelbar.
Rechtsprechung.
Zwei EuGH-Entscheidungen prägen die Bewertung staatlicher wie privater KI-Entscheidungen über Menschen. Alle Aktenzeichen sind belegbar.
SCHUFA — automatisierte Entscheidung.
Schon das automatisierte Erstellen eines Scores kann eine Entscheidung nach Art. 22 DSGVO sein, wenn ein Dritter maßgeblich darauf abstellt. Grundlage für die Bewertung KI-gestützter Entscheidungen über Menschen.
Dun & Bradstreet — Logik erklären.
Bei automatisierten Entscheidungen ist das Verfahren in verständlicher Form zu erläutern (Art. 15 Abs. 1 lit. h DSGVO). Ein pauschaler Verweis auf ein Geschäftsgeheimnis oder „die Software" genügt nicht.
Fragen & Antworten (FAQ).
Acht Antworten rund um automatisierte Bescheide, Begründung und Rechtsschutz.
Nur, soweit eine Rechtsvorschrift das ausdrücklich zulässt und weder Ermessen noch Beurteilungsspielraum besteht (§ 35a VwVfG; im Steuerrecht § 155 Abs. 4 AO, im Sozialrecht § 31a SGB X). Für Abwägungs- und Ermessensentscheidungen ist Vollautomatik unzulässig.
Ja. Belastende Verwaltungsakte sind nach § 39 VwVfG mit den wesentlichen tatsächlichen und rechtlichen Gründen zu begründen. Ein Verweis auf die Software reicht nicht. Bei automatisierter Verarbeitung besteht zusätzlich ein Anspruch auf Erläuterung der Logik (Art. 15 DSGVO).
Social Scoring ist die Bewertung von Personen anhand ihres sozialen Verhaltens mit benachteiligender Wirkung. Durch Behörden ist es nach Art. 5 KI-VO verboten — und zwar bereits seit dem 2. Februar 2025.
Ja. Sie haben Anspruch auf Akteneinsicht (§ 29 VwVfG) und auf Auskunft nach Art. 15 DSGVO, einschließlich einer verständlichen Erläuterung der Logik einer automatisierten Entscheidung (EuGH C-203/22).
Legen Sie fristgerecht Widerspruch ein (bzw. erheben Sie Klage), je nach Rechtsbehelfsbelehrung. Rügen Sie fehlende Begründung, unterlassene Anhörung oder eine unzulässige Vollautomatisierung. Beachten Sie die Frist von in der Regel einem Monat.
Die Verantwortung bleibt bei der Behörde; sie darf sich nicht blind auf die KI verlassen (Amtsermittlung, § 24 VwVfG). Für rechtswidrige, schuldhaft verursachte Schäden kommt eine Amtshaftung (§ 839 BGB i. V. m. Art. 34 GG) in Betracht.
Nur auf gesetzlicher Grundlage und in den Grenzen der Verhältnismäßigkeit. KI in der Strafverfolgung ist Hochrisiko (Anhang III Nr. 6 KI-VO); bestimmte Formen automatisierter Datenanalyse hat die Rechtsprechung an enge Voraussetzungen geknüpft. Verbotene Praktiken nach Art. 5 KI-VO sind ausgeschlossen.
Die Verbote (Art. 5) gelten seit dem 2. Februar 2025, die KI-Kompetenz-Pflicht (Art. 4) ebenfalls. Die Hochrisiko-Pflichten (Anhang III) greifen ab dem 2. August 2026.
Passenden Anwalt finden.
Ob automatisierter Bescheid ohne Begründung, KI-gestützte Ablehnung oder Verdacht auf Diskriminierung — schildern Sie Ihren Fall. Wir vermitteln an einen Partneranwalt für Verwaltungs- und Sozialrecht.
Passende Inhalte.
Tools, Rechtsgebiete und vertiefende Ratgeber — direkt verlinkt.