Das Wichtigste in Kürze
- Die KI-Verordnung (EU) 2024/1689 knüpft ihre Regeln an das Risiko einer KI-Anwendung. Sie gilt im Grundsatz seit dem 2. August 2026 für freie, kirchliche und kommunale Träger; Unterschiede bestehen bei Aufsicht und Bußgeld.
- Wer ein KI-Werkzeug in eigener Verantwortung dienstlich nutzt, ist Betreiber. Anbieter ist, wer ein System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt.
- Verbote (Art. 5), Maßnahmen zur KI-Kompetenz (Art. 4) und Transparenzpflichten (Art. 50) gelten schon. Die Betreiberpflichten für Hochrisiko-Systeme, also KI mit besonders strengen Pflichten in den Einsatzfeldern des Anhangs III, beginnen am 2. Dezember 2027.
- Die Grundrechte-Folgenabschätzung (Art. 27) betrifft nur Träger, die ab dann ein Hochrisiko-System betreiben. Der Wortlaut nennt sie ausdrücklich für Einrichtungen des öffentlichen Rechts; ob sie freie Träger trifft, ist offen.
KI-Verordnung ist die Verordnung (EU) 2024/1689 vom 13. Juni 2024. Sie legt für alle Mitgliedstaaten einheitliche Vorschriften für Inverkehrbringen, Inbetriebnahme und Verwendung von KI-Systemen fest, dazu Verbote bestimmter Praktiken, Anforderungen an Hochrisiko-KI-Systeme und Transparenzvorschriften (Art. 1 Abs. 2).
Sie gilt unmittelbar, seit dem 27. Juli 2026 in der Fassung der Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI). Die Regeln folgen dem Risiko der Anwendung (Erwägungsgrund 26); die EU-Kommission unterscheidet vier Stufen.
Ihr Träger ist Betreiber, wenn er ein fremdes KI-System einsetzt
Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, außer privat (Art. 3 Nr. 4). Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Ein Träger, der ein zugekauftes Werkzeug unter dem Namen des Herstellers einsetzt, ist Betreiber.
Als Anbieter eines Hochrisiko-Systems gilt auch, wer den Zweck eines nicht hochriskanten Systems so ändert, dass es hochriskant wird (Art. 25 Abs. 1 Buchst. c). Ob ein zugekaufter Chatbot unter eigenem Namen oder Logo ein „Entwickeln lassen“ nach Art. 3 Nr. 3 ist, ist offen (Kennzeichnung nach Art. 50); die Namensregel des Art. 25 Abs. 1 Buchst. a gilt nur für Hochrisiko-Systeme.
Freie, kirchliche und kommunale Träger unterscheiden sich bei Aufsicht und Bußgeld
Die Verordnung gilt für Betreiber mit Sitz in der Union (Art. 2 Abs. 1 Buchst. b). Ausnahmen gelten etwa für militärische Zwecke, Forschung und private Nutzung, nicht für kirchliche oder gemeinnützige Träger. Die Aufsicht regelt das deutsche KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz (KI-MIG).
| Trägerart | Was gilt | Aufsicht | Fundstelle |
|---|---|---|---|
| Freier Träger (Verein, gGmbH, Stiftung) | Betreiberpflichten. Die Grundrechte-Folgenabschätzung gilt, wenn er zu den „privaten Einrichtungen, die öffentliche Dienste erbringen“ zählt. | Bundesnetzagentur | Art. 27 Abs. 1; § 2 Abs. 1 KI-MIG |
| Kirchlicher Träger (Verband, Kirchengemeinde) | Wie beim freien Träger, wenn er privatrechtlich organisiert ist; eine kirchliche Sonderregel gibt es nicht. Ob kirchliche Körperschaften des öffentlichen Rechts unter Art. 27 fallen, ist offen. | Bundesnetzagentur; kirchliche Körperschaften nennt das KI-MIG nicht | Art. 2; Art. 140 GG, Art. 137 Abs. 5 WRV; § 2 KI-MIG |
| Kommunaler Träger (Amt, Eigenbetrieb) | Zusätzlich: Grundrechte-Folgenabschätzung (ausdrücklich für Einrichtungen des öffentlichen Rechts), Anhang III Nr. 5 Buchst. a (Systeme von oder im Namen von Behörden), Registrierung von Hochrisiko-Systemen in der EU-Datenbank (Behörden und in deren Namen Handelnde). | Landesbehörde; keine Geldbußen | Art. 27 Abs. 1, Art. 49 Abs. 3; § 2 Abs. 6, § 17 Abs. 2 KI-MIG |
Eine kommunale Gesellschaft in privater Rechtsform, die Aufgaben der öffentlichen Verwaltung wahrnimmt, kann nach § 2 Abs. 3 des Bundesdatenschutzgesetzes (BDSG) als öffentliche Stelle der Länder gelten. Darauf verweist § 2 Abs. 6 KI-MIG, § 17 Abs. 2 aber nur auf Abs. 1 oder 2 BDSG; die Folgen nennt der Wortlaut nicht.
Welche Werkzeuge sind verboten, hochriskant, kennzeichnungspflichtig oder nur von Art. 4 erfasst?
| Stufe | Beispiele aus dem Trägeralltag | Seit oder ab | Fundstelle |
|---|---|---|---|
| Verboten | KI, die Schutzbedürftigkeit wegen Alters, Behinderung oder sozialer oder wirtschaftlicher Lage ausnutzt und dadurch das Verhalten so verändert, dass erheblicher Schaden entsteht oder wahrscheinlich entsteht; Emotionserkennung (Rückschluss auf Gefühle aus biometrischen Daten) am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen | gilt seit | Art. 5 Abs. 1 Buchst. b und f |
| Hochrisiko | Bildung: Zulassung, Bewertung von Lernergebnissen. Beschäftigung: Bewerberauswahl, Aufgabenzuweisung nach Verhalten, Leistungsbewertung. Behörden: Prüfung von Ansprüchen auf Unterstützungsleistungen | gilt ab | Art. 6 Abs. 2, Anhang III Nr. 3 bis 5, Art. 113 Abs. 3 Buchst. c |
| Transparenz | Hinweis, dass ein Chatbot eine KI ist; Kennzeichnung von Deepfakes (täuschend echten KI-Bildern, -Tönen und -Videos) und veröffentlichten KI-Texten über Angelegenheiten von öffentlichem Interesse | gilt seit | Art. 50, Art. 113 Abs. 2 |
| Übriger Einsatz | Schreibhilfe, Übersetzung, Diktat, soweit nicht oben erfasst | Nur Art. 4, der für alle Stufen gilt: gilt seit | Art. 4, Art. 113 Abs. 3 Buchst. a |
- Pflege: Eine Dienstplan-Software, die Dienste nach individuellem Verhalten verteilt, kann unter Anhang III Nr. 4 Buchst. b fallen (Personalauswahl).
- Eingliederungshilfe und Kinder- und Jugendhilfe: Nr. 5 Buchst. a erfasst Systeme, mit denen Behörden oder in deren Namen Handelnde Ansprüche auf Unterstützungsleistungen prüfen. Ob ein freier Träger, der zuarbeitet, „im Namen“ handelt, ist offen.
- Kita und Bildungsträger: Nr. 3 nennt Einrichtungen „aller Ebenen der allgemeinen und beruflichen Bildung“. Kindertageseinrichtungen nennt der Wortlaut weder dort noch beim Verbot der Emotionserkennung.
Weitere Termine nennt der Fristenkalender.
Die Pflichten für Hochrisiko-Systeme beginnen am 2. Dezember 2027
Ein System aus Anhang III gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt; bei Profiling natürlicher Personen, also der automatisierten Bewertung persönlicher Aspekte, gilt es immer als hochriskant (Art. 6 Abs. 3).
Betreiber müssen dann unter anderem Personen mit Kompetenz und Befugnis mit der menschlichen Aufsicht betrauen und Protokolle mindestens sechs Monate aufbewahren. Sie informieren die Betroffenen, vor dem Einsatz am Arbeitsplatz auch die Arbeitnehmervertreter (Art. 26 Abs. 2, 6, 7 und 11; Mitbestimmung).
Systeme, die vor dem 2. Dezember 2027 in Betrieb gehen, fallen nur unter diese Pflichten, wenn ihre Konzeption danach erheblich verändert wird. Was „erheblich“ heißt, sagt die Verordnung nicht; als Planungsgrundlage taugt der Bestandsschutz deshalb nicht. Für Behörden-Systeme nennt sie den 2. August 2030 (Art. 111 Abs. 2).
Vor der ersten Verwendung müssen Einrichtungen des öffentlichen Rechts und private Einrichtungen, die öffentliche Dienste erbringen, eine Grundrechte-Folgenabschätzung durchführen; Anhang III Nr. 2 ist ausgenommen. Ihr Ergebnis geht an die Marktüberwachungsbehörde (Art. 27 Abs. 1 und 3). Besteht die Pflicht und unterbleibt die Abschätzung oder ist sie unrichtig, unvollständig oder verspätet, kann das nach dem KI-MIG bei Vorsatz oder Fahrlässigkeit mit einer Geldbuße bis zu 50.000 Euro geahndet werden. Gegen öffentliche Stellen werden keine Geldbußen verhängt (§ 15 Abs. 1 Nr. 3 und Abs. 3, § 17 Abs. 2).
Weder „Einrichtungen des öffentlichen Rechts“ noch „öffentliche Dienste“ erklärt die Verordnung. Erwägungsgrund 96 nennt als Aufgaben privater Einrichtungen im öffentlichen Interesse etwa Bildung, Gesundheitsversorgung und Sozialdienste; das spricht dafür, dass Träger von Sozialdiensten erfasst sein können. Offen bleibt, ob jeder freie Träger in jedem Leistungsfeld dazugehört, ob eine kommunale Gesellschaft Einrichtung des öffentlichen Rechts ist und ob die Pflicht auch Personalsysteme trifft, wofür der Wortlaut spricht.
Meine Empfehlung
Soll ab Dezember 2027 ein Hochrisiko-System in Betrieb gehen, planen Sie vorsorglich Zeit für eine Abschätzung ein, bis eine verbindliche Auslegung vorliegt. Eine vorhandene Datenschutz-Folgenabschätzung lässt sich einbeziehen; frühere Abschätzungen darf der Betreiber in ähnlichen Fällen nutzen (Art. 27 Abs. 2 und 4).
Verbote, Transparenz und KI-Kompetenz gelten bereits
Verbote
Verboten ist auch die Verwendung (Art. 5). Ab dem 2. Dezember 2026 kommen Verbote für nicht einvernehmliche intime Darstellungen und Missbrauchsmaterial hinzu (Art. 5 Abs. 1 Buchst. ba und bb).
Transparenz
Seit dem 2. August 2026 muss der Anbieter eines Chatbots, etwa in der Onlineberatung, die KI erkennbar machen und erzeugte Inhalte maschinenlesbar markieren. Für Systeme, die vor diesem Tag auf den Markt kamen, läuft die Markierungsfrist bis 2. Dezember 2026 (Art. 50 Abs. 1 und 2, Art. 111 Abs. 4). Der Träger als Betreiber legt Deepfakes offen und veröffentlichte KI-Texte über Angelegenheiten von öffentlichem Interesse, außer ein Mensch prüft sie und eine Person verantwortet sie redaktionell, und informiert bei Emotionserkennung (Abs. 3 und 4; Kennzeichnung).
KI-Kompetenz
Anbieter und Betreiber ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten; ein bestimmtes Niveau müssen sie für niemanden zusichern (Art. 4 Abs. 1). Mehr im Beitrag zur KI-Kompetenz nach Art. 4.
Wer in Deutschland prüft und was Verstöße kosten können
Das KI-MIG (BGBl. 2026 I Nr. 223) gilt seit dem 29. Juli 2026. Die Bundesnetzagentur ist Marktüberwachungsbehörde, soweit das Gesetz nichts anderes bestimmt (§ 2 Abs. 1); für öffentliche Stellen der Länder, Gemeinden eingeschlossen, bestimmt das Landesrecht die Behörde (§ 2 Abs. 6; § 2 Abs. 2 BDSG). Beschwerden nimmt die Bundesnetzagentur als zentrale Beschwerdestelle entgegen (§ 8 Abs. 1).
Verbote können mit Geldbußen bis zu 35 Millionen Euro oder, bei Unternehmen, 7 Prozent des weltweiten Jahresumsatzes geahndet werden, Verstöße gegen Art. 26 und Art. 50 mit bis zu 15 Millionen Euro oder 3 Prozent; maßgeblich ist der höhere Betrag. Bei kleinen und mittleren Unternehmen (KMU) und kleinen Midcap-Unternehmen gilt der niedrigere Betrag (Art. 99 Abs. 3, 4, 6 und 6a). Ob ein gemeinnütziger Träger ein „Unternehmen“ ist, sagt Art. 99 nicht; Art. 3 Nr. 14a verweist für KMU auf die Empfehlung 2003/361/EG, die jede wirtschaftlich tätige Einheit unabhängig von der Rechtsform erfasst. Gegen Behörden und öffentliche Stellen im Sinne des BDSG werden keine Geldbußen verhängt (§ 17 Abs. 2 KI-MIG).
Was bei der Leitung liegt
Betreiber ist der Träger als Rechtsträger, nicht die einzelne Fachkraft (so die Bundesnetzagentur). Die Leitung entscheidet deshalb, welche Werkzeuge freigegeben oder untersagt werden, wie die Rolle im Vertrag steht, welche Maßnahmen zur KI-Kompetenz gelten und ob ein möglicherweise hochriskantes System vor Dezember 2027 in Betrieb geht. Dazu der Beitrag zur Verantwortung der Leitung.
Wie verhält sich die KI-Verordnung zu den übrigen Regeln?
- Datenschutz: Die Datenschutz-Grundverordnung (DSGVO) bleibt unberührt und gilt daneben (Art. 2 Abs. 7). Grundlagen: DSGVO, BDSG, SGB X, KDG und DSG-EKD.
- Schweigepflicht: § 203 StGB kommt in der Verordnung nicht vor, erfasst aber auch staatlich anerkannte Sozialarbeiter und Sozialpädagogen. Dazu der Beitrag zur Schweigepflicht bei IT, Cloud und KI.
- ISO/IEC 42001: Die Verordnung nennt diese Norm für KI-Managementsysteme nicht. Dass ein Hochrisiko-System die Anforderungen erfüllt, wird vermutet, wenn es harmonisierten Normen mit Fundstelle im Amtsblatt entspricht (Art. 40 Abs. 1). Das ist am 14. Oktober 2026 für EN 18286:2026 geschehen, ein Qualitätsmanagementsystem für Anbieter; ISO/IEC 42001 steht nicht im Anhang des Durchführungsbeschlusses (EU) 2026/2274. Betreiberpflichten nach Art. 26 erfasst Art. 40 Abs. 1 nicht.
Zwei Missverständnisse
- „Der 2. Dezember 2027 gilt für die ganze Verordnung.“ Art. 4 und die Verbote gelten seit dem 2. Februar 2025, Art. 50 seit dem 2. August 2026.
- „Ohne Bußgeld keine Pflicht.“ Art. 4 gilt seit dem 2. Februar 2025, auch ohne eigenen Bußgeldtatbestand in Art. 99 und § 15 KI-MIG; die Kommission hält Sanktionen nach nationalem Recht für möglich.
Was in den nächsten Wochen zu tun ist
- Erfassen Sie alle KI-Werkzeuge. Fragen Sie in jedem Bereich nach, auch nach Fachsoftware-Funktionen und privaten Konten.
- Halten Sie Rolle und Einstufung fest. Tragen Sie je Werkzeug Betreiber oder Anbieter ein, klären Sie, ob es Bildung, Beschäftigung oder Leistungsansprüche berührt, und lassen Sie sich Zweckbestimmung (Einsatzzweck) und Einstufung vom Hersteller schriftlich nennen.
- Schließen Sie Verbotenes aus. Beenden Sie Emotionserkennung bei Beschäftigten und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
- Beschließen Sie Maßnahmen zur KI-Kompetenz. Legen Sie fest, welche Maßnahme (etwa Einweisung, Nutzungsregeln, Ansprechperson) wer wann erhält, und dokumentieren Sie es.
- Planen Sie 2027 ein. Rechnen Sie bei Hochrisiko-Systemen mit der Information der Vertretung und womöglich einer Grundrechte-Folgenabschätzung.
Verzeichnis, Einstufung nach der KI-Verordnung und Maßnahmenplan sind der Gegenstand des KI-Checks.
Stand: 15. Oktober 2026. Der Wortlaut ist an der konsolidierten Fassung vom 27. Juli 2026 geprüft, die EUR-Lex als nicht rechtsverbindlich kennzeichnet. Die Einstufungsleitlinien der Kommission (Art. 6 Abs. 5) liegen nur als Entwurf vor. Zu Art. 27 habe ich weder bei der Europäischen Kommission noch bei der Bundesnetzagentur eine Auslegung gefunden.
Fragen zur KI-Verordnung
Gilt die KI-Verordnung auch für einen kleinen Verein, der nur ChatGPT nutzt?
Ja, wer ein KI-System beruflich in eigener Verantwortung verwendet, ist Betreiber (Art. 3 Nr. 4); eine Ausnahme nach Größe kennt Art. 2 nicht. Für eine Schreibhilfe bedeutet das vor allem Maßnahmen zur KI-Kompetenz und die Beachtung der Verbote. Hochrisiko-Pflichten entstehen erst, wenn der Einsatz in Anhang III fällt.
Gibt es für kirchliche Träger eine Ausnahme von der KI-Verordnung?
Der Verordnungstext enthält keine. Art. 2 nennt andere Ausnahmen, etwa militärische Zwecke und Forschung. Ob sich aus dem Verfassungsrecht Besonderheiten für die Aufsicht über Kirchen ergeben, habe ich nicht geprüft.
Wer kontrolliert die KI-Verordnung in Deutschland?
Grundsätzlich die Bundesnetzagentur, die auch Beschwerden entgegennimmt (§ 2 Abs. 1 und § 8 KI-MIG). Für öffentliche Stellen der Länder bestimmt das Landesrecht die Behörde (§ 2 Abs. 6 KI-MIG).
Muss ein freier Träger eine Grundrechte-Folgenabschätzung durchführen?
Das ist offen. Die Pflicht trifft „private Einrichtungen, die öffentliche Dienste erbringen“; Erwägungsgrund 96 nennt Sozialdienste. Sie gilt zudem erst für Hochrisiko-Systeme nach Anhang III ab dem 2. Dezember 2027.
Quellen
- Europäische Union: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27. Juli 2026, Art. 1 bis 6, 25 bis 27, 40, 49, 50, 99, 111, 113 und Anhang III. EUR-Lex, abgerufen am 15. Oktober 2026.
- Europäische Union: Verordnung (EU) 2024/1689 vom 13. Juni 2024, ABl. L vom 12. Juli 2024, Erwägungsgründe 26 und 96. EUR-Lex, abgerufen am 15. Oktober 2026.
- Europäische Union: Verordnung (EU) 2026/1744 vom 8. Juli 2026 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24. Juli 2026, Art. 1 Nr. 39 und 40 sowie Art. 4. EUR-Lex, abgerufen am 15. Oktober 2026.
- Europäische Kommission: Durchführungsbeschluss (EU) 2026/2274 vom 12. Oktober 2026 über die harmonisierten Normen für Hochrisiko-KI-Systeme, ABl. L vom 14. Oktober 2026. EUR-Lex, abgerufen am 15. Oktober 2026.
- Europäisches Parlament und Rat: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 4 Nr. 4. EUR-Lex, abgerufen am 15. Oktober 2026.
- Europäische Kommission: Empfehlung 2003/361/EG vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen, Anhang Art. 1. EUR-Lex, abgerufen am 15. Oktober 2026.
- Bundesgesetzblatt: Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22. Juli 2026, BGBl. 2026 I Nr. 223, Art. 1 (KI-MIG) und Art. 5. recht.bund.de, abgerufen am 15. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz (KI-MIG), §§ 2, 8, 15 und 17. gesetze-im-internet.de, abgerufen am 15. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Bundesdatenschutzgesetz, § 2 Begriffsbestimmungen. gesetze-im-internet.de, abgerufen am 15. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Strafgesetzbuch, § 203 Verletzung von Privatgeheimnissen. gesetze-im-internet.de, abgerufen am 15. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Grundgesetz, Art. 140, mit nichtamtlichem Abdruck von Art. 137 der Weimarer Reichsverfassung (WRV) in der Fußnote. gesetze-im-internet.de, abgerufen am 15. Oktober 2026.
- Europäische Kommission: AI Act (Seite zum Rechtsrahmen für KI), Stand 3. August 2026. digital-strategy.ec.europa.eu, abgerufen am 15. Oktober 2026.
- Europäische Kommission: AI Literacy. Questions and Answers, Stand 27. Juli 2026. digital-strategy.ec.europa.eu, abgerufen am 15. Oktober 2026.
- Europäische Kommission: Guidelines for providers and deployers of AI high-risk systems (Entwurf), Stand 6. Juli 2026. digital-strategy.ec.europa.eu, abgerufen am 15. Oktober 2026.
- Europäische Kommission: Navigating the AI Act, Stand 7. August 2026. digital-strategy.ec.europa.eu, abgerufen am 15. Oktober 2026.
- Europäische Kommission: AI Act Service Desk, Article 27. ai-act-service-desk.ec.europa.eu, abgerufen am 15. Oktober 2026.
- Bundesnetzagentur: KI-Service Desk, Akteure und Pflichten. bundesnetzagentur.de, abgerufen am 15. Oktober 2026.
Christian Monat
Ich bin externer Datenschutzbeauftragter mit IHK-Abschluss und seit 2019 in Team- und Einrichtungsleitung im Sozialwesen tätig. Hier schreibe ich über Datenschutz, Schweigepflicht und den geregelten Einsatz von KI in der Sozialen Arbeit und Pflege. Mehr über mich
Der Beitrag erklärt die Rechtslage und ersetzt keine Rechtsberatung im Einzelfall.
