Die Entscheidung in Kürze
- Frage: Der Hersteller der Dokumentations- oder Verwaltungssoftware bietet eine KI-Funktion an oder schaltet sie mit einem Update frei. Freischalten, begrenzt testen oder ausgeschaltet lassen?
- Empfehlung: Ausgeschaltet lassen, bis der Hersteller sechs Prüffragen schriftlich beantwortet hat. Danach ein Pilot mit wenigen Fachkräften, zunächst mit fiktiven Akten. Echte Klientendaten erst, wenn Rechtsgrundlage, Vertrag und Verpflichtung zur Verschwiegenheit geklärt sind. Freischaltung für alle erst nach der Auswertung des Pilots.
- Aufwand (meine Schätzung, kein Messwert): zwei bis drei Monate von den Antworten des Herstellers bis zur Entscheidung über alle, intern einige Arbeitstage für Leitung, Datenschutzbeauftragten und IT. Die Wartezeit auf den Hersteller kommt hinzu.
- Frist: vor der ersten Nutzung mit echten Daten. Datenschutz und Schweigepflicht gelten schon heute. Die Hochrisiko-Pflichten der KI-Verordnung greifen erst ab 2. Dezember 2027 und nur für bestimmte Zwecke.
Warum die Frage bei der Leitung landet
Leitungen wünschen sich KI zuerst von den Softwarehäusern, mit denen sie schon arbeiten. Die Arbeitsstelle für Sozialinformatik der Katholischen Universität Eichstätt-Ingolstadt fragte 2024, wer als Lieferant für KI-Anwendungen favorisiert wird. An oberster Stelle standen die Anbieter von Fachsoftware mit 79 Prozent und die Anbieter betriebswirtschaftlicher Software mit 73 Prozent, jeweils solche, mit denen die Organisation bereits zusammenarbeitet. Grundlage sind Selbstauskünfte von 185 Leitungskräften, erhoben im Februar und März 2024 bei einem Rücklauf von 24 Prozent; angeschrieben wurden zunächst Organisationen mit nach Datenbankeintrag über 500 Mitarbeitenden.
Die Autoren räumen eine eingeschränkte Repräsentativität ein: Wer antwortete, war nach ihrer Einschätzung gegenüber KI positiver eingestellt und besser informiert als die Sozialwirtschaft insgesamt. Die Zahlen sind deshalb ein Stimmungsbild von 2024. Aus den neun Experteninterviews stammt der Eindruck, man überlasse vielfach den Softwareanbietern den Einbau von KI in ihre Produkte und nutze sie dann ohne kritische Reflexion.
Aus der Anbieterbefragung 2024
Dieselbe Studie befragte Hersteller von Software für Klientenverwaltung, Dokumentation und Einsatzplanung. Von 204 angeschriebenen Unternehmen antworteten 27 (13 Prozent, April bis Mai 2024); die Autoren erwarten, dass diese weiter fortgeschritten sind als der Markt. Im Mittel boten 16 Prozent KI-Funktionen an, 39 Prozent planten sie für die folgenden zwölf Monate, am stärksten die Spracherfassung (63 Prozent). Ob die Pläne umgesetzt wurden, hat die Studie nicht erhoben.
2026 fordern auch Verbände klare Regeln. Miriam Wolf, Vorständin von vediso, empfahl beim Treff Sozialarbeit in Stuttgart Leitlinien und Pilotprojekte (Folien vom 17. Juli 2026, Pressemitteilung der Evangelischen Gesellschaft Stuttgart vom 22. Juli 2026); der Präsident der Diakonie Deutschland mahnte am 30. Juli 2026 Leitplanken an.
Verantwortlicher im Sinne der Datenschutz-Grundverordnung (DSGVO) ist der Träger, weil er über Zwecke und Mittel der Verarbeitung entscheidet. Er muss nachweisen können, dass sie rechtmäßig abläuft (Art. 4 Nr. 7, Art. 5 Abs. 2 und Art. 24 DSGVO). Verarbeitet der Hersteller die Daten im Auftrag des Trägers, etwa in der Cloud, ist er Auftragsverarbeiter und selbst an Art. 28 DSGVO gebunden. Für kirchliche Träger gelten an Stelle der DSGVO das Gesetz über den Kirchlichen Datenschutz (KDG, katholisch) und das Datenschutzgesetz der EKD (DSG-EKD, evangelisch); ihre Entsprechungen sind genannt, soweit sie geprüft wurden.
Die Datenschutzkonferenz (DSK), das Gremium der Aufsichtsbehörden von Bund und Ländern, stellte im Dezember 2025 fest, die DSGVO nehme Hersteller von Standard-Hard- und Software als Hersteller nicht in die Pflicht, sondern ausschließlich die Anwender. Sie fordert, das zu ändern (Entschließung vom 12. Dezember 2025). Das ist eine Forderung, kein geltendes Recht.
Ist die Funktion ein KI-System im Sinne der KI-Verordnung (EU) 2024/1689, ist der Hersteller Anbieter und der Träger Betreiber (Art. 3 Nr. 1, 3 und 4). Maßgeblich ist die Fassung der Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026; die Termine zeigt der Fristenkalender zur KI-Verordnung und zum Datenschutz.
Stand: 8. Oktober 2026.
Was eine KI-Funktion von einer neuen Einstellung unterscheidet
Für die Teams ist es ein neuer Knopf in vertrauter Software. Rechtlich kann damit einiges dazukommen; was davon greift, entscheidet die konkrete Funktion. Die Begründungen stehen in den verlinkten Beiträgen.
- Rechtsgrundlage und Zweck. Jede Verarbeitung braucht eine Rechtsgrundlage (Art. 6 DSGVO), bei Gesundheitsdaten zusätzlich eine Ausnahme nach Art. 9 Abs. 2 (§§ 6 und 11 KDG, §§ 6 und 13 DSG-EKD). Ein neuer Zweck muss mit dem ursprünglichen vereinbar sein (Art. 5 Abs. 1 Buchst. b und Art. 6 Abs. 4 DSGVO, § 7 DSG-EKD).
- Neue Weisung. Der Hersteller darf Daten nur auf dokumentierte Weisung des Trägers verarbeiten; Art und Zweck legt der Vertrag zur Auftragsverarbeitung fest (Art. 28 Abs. 3 DSGVO, § 29 Abs. 3 und 4 KDG, § 30 Abs. 3 und 4 DSG-EKD). Ob eine Schreibfunktion davon gedeckt ist, entscheidet der Wortlaut. Verzeichnis und Datenschutzhinweise sind nachzuführen (Art. 13 und 30 DSGVO).
- Weitere Auftragsverarbeiter. Läuft die Funktion über das Sprachmodell eines anderen Unternehmens (das Programm, das die Texte erzeugt), kann ein weiterer Auftragsverarbeiter hinzukommen. Nach DSGVO und KDG braucht er die vorherige schriftliche Genehmigung des Trägers. Bei einer allgemeinen Genehmigung muss der Hersteller jede Änderung vorher mitteilen und der Träger kann Einspruch erheben (Art. 28 Abs. 2 DSGVO, § 29 Abs. 2 KDG). Das DSG-EKD verlangt nur, dass der Vertrag die Bedingungen von Unterauftragsverhältnissen festlegt (§ 30 Abs. 3 Satz 2 Nr. 6); ein gesetzliches Einspruchsrecht gibt es dort nicht; landeskirchliches Recht kann eine Genehmigung durch eine kirchliche Stelle oder Mustervereinbarungen vorsehen (§ 30 Abs. 7). Fristen stehen im Vertrag.
- Datenschutz-Folgenabschätzung. Hat eine Verarbeitung mit neuer Technik voraussichtlich ein hohes Risiko, muss der Träger vorab die Risiken bewerten (Art. 35 DSGVO, § 35 KDG, § 34 DSG-EKD). Die Liste der DSK für Träger unter staatlicher Aufsicht nennt KI, die die Interaktion mit Betroffenen steuert oder persönliche Aspekte bewertet, sowie die umfangreiche Verarbeitung von Daten unter Sozial- oder Berufsgeheimnis; kirchliche Aufsichten führen eigene Listen. Eine vorhandene Folgenabschätzung ist bei geändertem Risiko zu überprüfen (Art. 35 Abs. 11 DSGVO).
- Schweigepflicht. Staatlich anerkannte Sozialarbeiterinnen, Heilberufe und Berater in anerkannten Beratungsstellen unterliegen der strafrechtlichen Schweigepflicht (§ 203 Abs. 1 StGB). Schon wenn ein Dritter Geheimnisse zur Kenntnis nehmen könnte, liegt ein Offenbaren vor (Bundestagsdrucksache 18/11936, S. 28). Gegenüber Dienstleistern ist es erlaubt, soweit es für deren Tätigkeit erforderlich ist (Abs. 3 Satz 2). Wer nicht dafür sorgt, dass sie zur Geheimhaltung verpflichtet werden, ist strafbar, sobald einer von ihnen ein Geheimnis unbefugt offenbart (Abs. 4 Satz 2 Nr. 1). Ob eine Zusatzfunktion, ohne die die Software ebenso läuft, erforderlich ist, dazu ist mir keine Entscheidung bekannt.
- Sozialdaten. Bei Sozialdaten verlangt das Zehnte Buch Sozialgesetzbuch zusätzlich die Anzeige des Auftrags bei der Rechts- oder Fachaufsichtsbehörde, eine Verarbeitung in Deutschland, der EU oder einem Staat mit Angemessenheitsbeschluss sowie die Beauftragung privater Dienstleister nur, wenn sonst Betriebsstörungen drohen oder sie erheblich kostengünstiger arbeiten (§ 80 Abs. 1 bis 3 SGB X). Für die eigenen Klientendaten freier Träger gilt Art. 28 DSGVO; wo die Grenze verläuft, erklärt der Beitrag zum Sozialdatenschutz bei freien Trägern.
- KI-Verordnung. Als Betreiber muss der Träger Maßnahmen zur KI-Kompetenz seines Personals ergreifen (Art. 4). Hochrisiko-Pflichten gelten ab 2. Dezember 2027 und betreffen nur bestimmte Zwecke, etwa die Zuweisung von Aufgaben nach individuellem Verhalten oder die Bewertung der Leistung von Beschäftigten (Anhang III Nr. 4 Buchst. b).
Drei Wege im Vergleich
Die drei Wege unterscheiden sich darin, wie viel die Leitung bei der Entscheidung weiß und wie leicht sie sich zurücknehmen lässt. Solange die Antworten des Herstellers fehlen, bleibt nur der erste.
| Option | Was sie bedeutet | Spricht dafür | Spricht dagegen |
|---|---|---|---|
| Ausgeschaltet lassen | Die Funktion bleibt für alle gesperrt, bis die Prüffragen beantwortet sind. Der Träger teilt das dem Hersteller schriftlich mit. | Keine neue Verarbeitung, kein neues Offenbaren, jederzeit umkehrbar. Datenschutzbeauftragter und Interessenvertretung haben Zeit. | Der Nutzen bleibt aus, solange der Hersteller nicht antwortet. Der Bedarf der Teams bleibt und kann in private KI-Konten ausweichen. |
| Begrenzt pilotieren | Wenige Fachkräfte nutzen die Funktion für festgelegte Aufgaben, über eine feste Zeit und mit Auswertung. Zuerst mit fiktiven Akten, später mit echten Daten. | Erfahrung mit echtem Nutzen und echten Fehlern bei kleinem Kreis von Betroffenen. Das Ergebnis trägt die Entscheidung über alle. | Mit echten Daten gelten dieselben Pflichten wie im Vollbetrieb: Rechtsgrundlage, Vertrag, Verzeichnis, Information, gegebenenfalls Folgenabschätzung. Begleitung und Auswertung kosten Zeit. |
| Für alle freischalten | Die Funktion steht allen Nutzerinnen und Nutzern offen, mit Datenregel und Einweisung. | Gleicher Stand in allen Teams, kein Nebeneinander von Pilot und Altbetrieb, wenig Steuerung danach. | Fehler treffen sofort alle Bereiche. Sind Abläufe erst umgestellt, lässt sich die Entscheidung schwer zurücknehmen. Ohne Erfahrungswerte ist sie gegenüber Aufsicht und Gremien schwer zu begründen. |
Ein Pilot ist kein Probelauf ohne Pflichten
Eine Ausnahme für Test- oder Probebetrieb enthält die DSGVO nicht. Das Bundesarbeitsgericht (BAG) hielt am 8. Mai 2025 echte Daten zum Test einer neuen Personalverwaltungssoftware für möglich, sofern entpersonalisierte Dummy-Daten den Testzweck nicht erreichen (8 AZR 209/21). Es sah darin wohl eine Verarbeitung zu einem anderen Zweck als dem der Erhebung und prüfte das berechtigte Interesse des Arbeitgebers (Art. 6 Abs. 1 Buchst. f DSGVO) an Beschäftigtendaten unterhalb der Schwelle des Art. 9. Weil mehr Daten übermittelt worden waren als nötig, sprach es dem Kläger 200 Euro Schadensersatz zu.
Klientendaten können Gesundheitsdaten sein. Dafür genügt ein berechtigtes Interesse nicht, es braucht zusätzlich eine Ausnahme nach Art. 9 Abs. 2 DSGVO (§ 11 KDG, § 13 DSG-EKD). Deshalb sind fiktive Testakten der richtige Anfang. Echte Daten kommen erst hinzu, wenn Rechtsgrundlage, Vertrag und Verpflichtung zur Verschwiegenheit vorliegen.
Sechs Fragen, die der Hersteller schriftlich beantwortet
Die Antworten gehören in Textform zur Akte, weil der Träger die Rechtmäßigkeit nachweisen muss. Für eine Folgenabschätzung braucht er zudem Angaben des Anbieters zur Funktionsweise (DSK, Orientierungshilfe KI, Rn. 40). Die Begründungen stehen in den verlinkten Beiträgen.
- Was tut die Funktion mit welchen Daten? Deckt der bestehende Vertrag zur Auftragsverarbeitung das ab?
- Welche weiteren Auftragsverarbeiter kommen hinzu und wo stehen deren Server? Was für Server außerhalb der EU gilt, steht im Beitrag zur Schweigepflicht bei IT, Cloud und KI.
- Werden Eingaben oder Ergebnisse zum Training von Modellen genutzt? Ein Auftragsverarbeiter, der unter Verstoß gegen die DSGVO selbst über Zwecke und Mittel entscheidet, gilt insoweit als Verantwortlicher (Art. 28 Abs. 10 DSGVO, § 29 Abs. 10 KDG). Wie Zusagen dazu im Vertrag aussehen können, zeigt der Beitrag zu Microsoft 365 Copilot.
- Sind alle, die an der KI-Verarbeitung mitwirken, auch beim Modellanbieter, nach § 203 Abs. 4 StGB zur Verschwiegenheit verpflichtet?
- Was wird protokolliert, wie lange gespeichert und wer beim Hersteller kann es einsehen? Welche Zusagen der Träger dazu braucht, beschreibt der Beitrag zur KI-gestützten Dokumentation.
- Lässt sich die Funktion je Nutzergruppe ein- und ausschalten, ist sie ab Werk aus und kündigt der Hersteller Änderungen vor dem Update an? Greift die Funktion auf gespeicherte Akten zu (Fachleute sprechen von Retrieval Augmented Generation, kurz RAG), müssen Rechte und Rollen schon vor dem Sprachmodell greifen, weil sich im Modell selbst nicht steuern lässt, wer worauf zugreifen darf (DSK, Orientierungshilfe RAG, Abschnitt 3.3).
Welche Daten in welches Werkzeug dürfen, lässt sich mit der Vorlage für Datenklassen festlegen.
Wenn ein Update die Funktion einschaltet
Einschätzung: KI-Funktionen können auch mit einem gewöhnlichen Update kommen, womöglich schon eingeschaltet. Belastbare Zahlen dazu sind mir nicht bekannt, ebenso keine Äußerung von Aufsichtsbehörden oder Gerichten zu diesem Fall. Nach der hier vertretenen Auslegung muss der Träger eine Funktion, die nach einem Update ungeprüft läuft, selbst ausschalten, weil er die Rechtmäßigkeit nachweisen muss (Art. 5 Abs. 2 und Art. 24 DSGVO). Datenschutzfreundliche Voreinstellungen schuldet er außerdem für die Daten, die verarbeitet werden (Art. 25 Abs. 2 DSGVO, § 27 Abs. 2 KDG, § 28 Abs. 2 DSG-EKD).
Die DSK verlangt von Herstellern, die ihre KI-Systeme selbst betreiben, Tests bei Veränderungen und Updates zu wiederholen (Orientierungshilfe zu KI-Systemen, Juni 2025, S. 21). Für Anwender ist das ein Maßstab dafür, was sie erfragen können. Die folgenden Schritte sind eine Einordnung:
- Zuständigkeit festlegen. Eine Person aus der IT oder der Betreuung der Fachsoftware liest die Ankündigungen vor jedem Update auf neue KI-Funktionen und weitere Auftragsverarbeiter.
- Neue Funktionen sperren. Was ohne Freigabe der Leitung neu erscheint, bleibt bis zur Entscheidung ausgeschaltet.
- Vertragslage prüfen und reagieren. Zuerst klären, ob der Vertrag weitere Auftragsverarbeiter einzeln genehmigen lässt oder allgemein erlaubt. Benennt der Hersteller neue, ohne die Prüffragen beantwortet zu haben, verweigert der Träger die Genehmigung oder legt innerhalb der vertraglichen Frist schriftlich Einspruch ein. Evangelische Träger halten sich an ihren Vertrag.
- Datenschutzbeauftragten beteiligen. Er bewertet die Antworten und prüft, ob die Folgenabschätzung neu zu fassen ist.
- Entscheidung dokumentieren. Ein kurzer Vermerk mit Datum, Softwareversion und Begründung macht sie beim nächsten Update nachvollziehbar.
Ob ein Hersteller Leistungen durch ein Update oder geänderte Vertragsbedingungen einseitig ändern darf, ist eine Frage des Vertragsrechts, die diese Vorlage nicht beantwortet.
Wer an der Entscheidung beteiligt wird
Entscheiden muss die Leitung, weil der Träger als Verantwortlicher einsteht: für Schadensersatz und Bußgelder nach Art. 82 und 83 DSGVO, bei katholischen Trägern nach §§ 50 und 51 KDG, bei evangelischen nach §§ 45 und 48 DSG-EKD. Geldbußen gibt es nach dem DSG-EKD nur gegen Stellen, die als Unternehmen am Wettbewerb teilnehmen, nach dem KDG nicht gegen öffentlich-rechtlich verfasste kirchliche Stellen, es sei denn, sie nehmen als Unternehmen am Wettbewerb teil (§ 51 Abs. 6 KDG). Persönlich schulden Geschäftsführer einer GmbH die Sorgfalt eines ordentlichen Geschäftsmannes (§ 43 Abs. 1 GmbHG); Vorstände eines Vereins, die unentgeltlich oder für höchstens 3.300 Euro im Jahr tätig sind, haften dem Verein nur bei Vorsatz oder grober Fahrlässigkeit (§ 31a Abs. 1 BGB). Ob eine Freischaltung ohne Prüfung eine Pflichtverletzung ist, dazu ist mir keine Entscheidung bekannt.
Der Datenschutzbeauftragte wird frühzeitig eingebunden und berät, auch zur Folgenabschätzung; entscheiden muss er nicht (Art. 38 Abs. 1 und Art. 39 Abs. 1 DSGVO, §§ 37 und 38 KDG, §§ 37 und 38 DSG-EKD). Die Pilotgruppe braucht vor dem Start eine Einweisung, die zu den Maßnahmen zur KI-Kompetenz nach Art. 4 zählt.
Zur Interessenvertretung ein Verfahrenshinweis. Wer mitbestimmt, hängt vom Träger ab:
- Betriebsrat: Er bestimmt nach dem Betriebsverfassungsgesetz (BetrVG) mit, wenn eine technische Einrichtung objektiv geeignet ist, Verhalten oder Leistung zu erfassen; auf eine Überwachungsabsicht kommt es nicht an. Die erhobenen Daten müssen grundsätzlich einzelnen Beschäftigten zuzuordnen sein (§ 87 Abs. 1 Nr. 6 BetrVG; BAG, Beschluss vom 16. Juli 2024, 1 ABR 16/23, Rn. 25 und 30). Über den Einsatz von KI in Arbeitsabläufen ist er rechtzeitig zu unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG).
- Kirchliche Träger: Das BetrVG gilt nicht (§ 118 Abs. 2 BetrVG). Es greift das Mitarbeitervertretungsrecht, etwa § 40 Buchst. k des Mitarbeitendenvertretungsgesetzes der EKD (MVG-EKD) oder § 36 Abs. 1 Nr. 9 der Mitarbeitervertretungsordnung (MAVO, Fassung Hildesheim).
- Kommunale und andere öffentliche Träger: Zuständig ist der Personalrat. Für Träger des Bundes gilt das Bundespersonalvertretungsgesetz (BPersVG; Mitbestimmung bei technischen Einrichtungen zur Überwachung von Verhalten oder Leistung nach § 80 Abs. 1 Nr. 21), für kommunale Träger das Personalvertretungsgesetz des Landes, das hier nicht geprüft ist.
Ob schon der Pilot zustimmungspflichtig ist, hängt von der Funktion ab; der Vergleich zur Mitbestimmung bei der KI-Einführung ordnet das ein.
Empfehlung: erst Antworten, dann Pilot, dann alle
Meine Empfehlung
Ich halte den begrenzten Pilot für den richtigen Weg, sobald der Hersteller die sechs Fragen schriftlich beantwortet hat. Bis dahin bleibt die Funktion ausgeschaltet. Der Pilot beginnt mit fiktiven Testakten. Mit echten Klientendaten läuft er erst, wenn Rechtsgrundlage, Vertrag und Verpflichtung zur Verschwiegenheit geklärt sind, der Datenschutzbeauftragte Stellung genommen hat und, wo nötig, eine Folgenabschätzung vorliegt. Für alle freigeschaltet wird die Funktion erst, wenn der Pilot ausgewertet ist.
Ich würde zurück auf „ausgeschaltet“ wechseln, wenn der Hersteller Eingaben zum Training nutzt, keine Abschaltung je Nutzergruppe anbietet oder weitere Auftragsverarbeiter nicht offenlegt. Direkt für alle freischalten würde ich nur eine Funktion, die nach schriftlicher Zusage des Herstellers keine personenbezogenen Daten verarbeitet, etwa eine Hilfe zur Bedienung der Software.
Beschlussvorschlag für die Leitungsrunde
- Die KI-Funktion bleibt in allen Bereichen ausgeschaltet. Die IT sperrt neue KI-Funktionen auch nach künftigen Updates, bis die Leitung entschieden hat.
- Die Geschäftsführung richtet die sechs Prüffragen bis zu einem festen Datum schriftlich an den Hersteller. Der Datenschutzbeauftragte bewertet die Antworten.
- Liegen tragfähige Antworten vor, startet ein Pilot in einem Bereich mit wenigen Nutzerinnen und Nutzern, zunächst mit fiktiven Testakten. Echte Daten kommen erst hinzu, wenn Rechtsgrundlage, Vertrag und Verpflichtung zur Verschwiegenheit festgestellt sind. Betriebsrat, Personalrat oder Mitarbeitervertretung werden vorher beteiligt.
- Über die Freischaltung für alle entscheidet die Leitungsrunde nach Auswertung des Pilots.
Damit dieser Weg beim nächsten Update nicht neu erfunden werden muss, lässt er sich als Freigabeweg in einer KI-Richtlinie festhalten.
Weitere Fragen zur Entscheidung
Darf der Softwarehersteller KI-Funktionen per Update einschalten?
Was er vertraglich darf, regelt der Vertrag. Datenschutzrechtlich bleibt der Träger verantwortlich und muss nach hier vertretener Auslegung eine ungeprüfte Funktion selbst ausschalten (Art. 5 Abs. 2 und Art. 24 DSGVO). Einen weiteren Auftragsverarbeiter darf der Hersteller nur einsetzen, wenn der Träger zugestimmt hat oder der Vertrag eine allgemeine Genehmigung mit Mitteilung und Einspruchsrecht vorsieht (Art. 28 Abs. 2 DSGVO, § 29 Abs. 2 KDG; bei evangelischen Trägern regelt der Vertrag die Bedingungen).
Braucht eine KI-Funktion in der Fachsoftware einen neuen Auftragsverarbeitungsvertrag?
Nicht zwingend einen neuen, aber eine Prüfung des bestehenden. Der Vertrag legt Art und Zweck der Verarbeitung fest; der Hersteller darf nur auf dokumentierte Weisung handeln (Art. 28 Abs. 3 DSGVO). Ändert die Funktion den Zweck oder den Kreis der Auftragsverarbeiter, liegt eine Ergänzung nahe; ausdrücklich geregelt ist das nicht.
Dürfen KI-Funktionen mit echten Klientendaten getestet werden?
Eine Ausnahme für Tests kennt die DSGVO nicht. Das Bundesarbeitsgericht hielt beim Test einer Personalsoftware echte Daten für möglich, sofern Dummy-Daten nicht ausreichen; geprüft wurde nur das berechtigte Interesse an Beschäftigtendaten (8 AZR 209/21). Bei Gesundheitsdaten reicht das nicht, sinnvoll ist deshalb ein Start mit fiktiven Akten.
Was tun, wenn sich die KI-Funktion nicht abschalten lässt?
Dann fehlt die Voraussetzung für einen kontrollierten Pilot. Sinnvoll ist, den Hersteller schriftlich um eine Abschaltmöglichkeit zu bitten und die Nutzung intern zu untersagen, bis sie vorliegt; ohne Lösung wird es eine Frage des Vertrags und notfalls des Anbieterwechsels. Ist die Fachsoftware ein Datenverarbeitungsdienst im Sinne des Datengesetzes der EU (Data Act), dürfen Anbieter ab dem 12. Januar 2027 keine Wechselentgelte mehr verlangen (Art. 29 Abs. 1).
Quellen
- Arbeitsstelle für Sozialinformatik der Katholischen Universität Eichstätt-Ingolstadt (Helmut Kreidenweis, Maria Diepold): Studie Künstliche Intelligenz in der Sozialwirtschaft. Forschungsbericht, Juni 2024, S. 6 bis 14, 29 und 35 bis 39. PDF der Universität, abgerufen am 8. Oktober 2026.
- Evangelische Gesellschaft Stuttgart: Leitplanken für die KI-Nutzung. Pressemitteilung zum Treff Sozialarbeit, 22. Juli 2026. PDF der eva, abgerufen am 8. Oktober 2026.
- vediso e. V. (Miriam Wolf): KI in der sozialen Arbeit. Chancen, Herausforderungen und Gestaltungsmöglichkeiten. Folien zum Treff Sozialarbeit Stuttgart, 17. Juli 2026, Folien 45 bis 47. PDF der Folien, abgerufen am 8. Oktober 2026.
- Evangelischer Pressedienst auf evangelisch.de: Diakonie-Präsident mahnt klare KI-Regeln für Sozialeinrichtungen an, 30. Juli 2026. evangelisch.de, abgerufen am 8. Oktober 2026.
- Europäische Union: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 4, 5, 6, 9, 13, 24, 25, 28, 30, 35, 38, 39, 82 und 83. EUR-Lex, abgerufen am 8. Oktober 2026.
- Europäische Union: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27. Juli 2026, Art. 3, 4, 113 und Anhang III. EUR-Lex, abgerufen am 8. Oktober 2026.
- Europäische Union: Verordnung (EU) 2026/1744 zur Änderung der Verordnung (EU) 2024/1689 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24. Juli 2026, Art. 1 Nr. 5 und 40, Art. 4. EUR-Lex, abgerufen am 8. Oktober 2026.
- Datenschutzkonferenz (DSK): Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 vom 6. Mai 2024, Rn. 40. PDF der DSK, abgerufen am 8. Oktober 2026.
- DSK: Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und beim Betrieb von KI-Systemen, Version 1.0, Juni 2025, Abschnitt 2.4, S. 21. PDF der DSK, abgerufen am 8. Oktober 2026.
- DSK: Orientierungshilfe zu generativen KI-Systemen mit Retrieval Augmented Generation (RAG), Version 1.0, Oktober 2025, Abschnitt 3.3. PDF der DSK, abgerufen am 8. Oktober 2026.
- DSK: Liste der Verarbeitungstätigkeiten, für die eine Datenschutz-Folgenabschätzung durchzuführen ist, Version 1.1 vom 17. Oktober 2018, Nr. 3 und 11. PDF der DSK, abgerufen am 8. Oktober 2026.
- DSK: Entschließung „DSGVO-Reform: IT-Hersteller in die Verantwortung nehmen!“ vom 12. Dezember 2025. PDF der Landesbeauftragten Bremen, abgerufen am 8. Oktober 2026.
- Verband der Diözesen Deutschlands: Gesetz über den Kirchlichen Datenschutz (KDG) in der Fassung des Beschlusses vom 24. November 2025, §§ 6, 11, 27, 29, 35, 37, 38, 50 und 51 (Abs. 6). PDF des Bistums Trier, abgerufen am 8. Oktober 2026. Zum 1. August 2026 wurde § 37 Abs. 2 Satz 4 geändert, was die genannten Aussagen nicht berührt: 2. KDG-Änderungsgesetz, Amtsblatt Augsburg 8/2026, S. 414, abgerufen am 8. Oktober 2026.
- Evangelische Kirche in Deutschland: EKD-Datenschutzgesetz (DSG-EKD), Bekanntmachung der Neufassung vom 15. Januar 2025, ABl. EKD 2025 Nr. 1, §§ 6, 7, 13, 28, 30, 34, 37, 38, 45 und 48. Kirchenrecht Online (PDF), abgerufen am 8. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: § 203 Strafgesetzbuch (Verletzung von Privatgeheimnissen). gesetze-im-internet.de, abgerufen am 8. Oktober 2026.
- Deutscher Bundestag: Entwurf eines Gesetzes zur Neuregelung des Schutzes von Geheimnissen bei der Mitwirkung Dritter an der Berufsausübung schweigepflichtiger Personen, Drucksache 18/11936, S. 28. PDF des Bundestags, abgerufen am 8. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: § 80 Zehntes Buch Sozialgesetzbuch (Verarbeitung von Sozialdaten im Auftrag). gesetze-im-internet.de, abgerufen am 8. Oktober 2026.
- Bundesarbeitsgericht: Urteil vom 8. Mai 2025, 8 AZR 209/21, Leitsatz und Rn. 21 bis 29. bundesarbeitsgericht.de, abgerufen am 8. Oktober 2026.
- Bundesarbeitsgericht: Beschluss vom 16. Juli 2024, 1 ABR 16/23, Rn. 25 und 30. bundesarbeitsgericht.de, abgerufen am 8. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Bundespersonalvertretungsgesetz (BPersVG), § 80 Abs. 1 Nr. 21, abgerufen am 8. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Betriebsverfassungsgesetz (BetrVG), § 87 Abs. 1 Nr. 6, § 90 Abs. 1 Nr. 3 und § 118 Abs. 2, abgerufen am 8. Oktober 2026.
- Evangelische Kirche in Deutschland: Kirchengesetz über die Mitarbeitendenvertretungen in der EKD (MVG-EKD), Neufassung vom 20. Januar 2024, zuletzt geändert am 12. Dezember 2025, § 40 Buchst. k. Kirchenrecht Online (PDF), abgerufen am 8. Oktober 2026.
- Bistum Hildesheim: Mitarbeitervertretungsordnung (MAVO) in der Fassung vom 1. Januar 2018, § 36 Abs. 1 Nr. 9. PDF des Bistums, abgerufen am 8. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: § 43 GmbH-Gesetz und § 31a Bürgerliches Gesetzbuch. gesetze-im-internet.de (GmbHG) und gesetze-im-internet.de (BGB), abgerufen am 8. Oktober 2026.
- Europäische Union: Verordnung (EU) 2023/2854 (Datengesetz, Data Act), Art. 23, 29 und 50, Erwägungsgrund 81. EUR-Lex, abgerufen am 8. Oktober 2026.
Christian Monat
Ich bin externer Datenschutzbeauftragter mit IHK-Abschluss und seit 2019 in Team- und Einrichtungsleitung im Sozialwesen tätig. Hier schreibe ich über Datenschutz, Schweigepflicht und den geregelten Einsatz von KI in der Sozialen Arbeit und Pflege. Mehr über mich
Der Beitrag erklärt die Rechtslage und ersetzt keine Rechtsberatung im Einzelfall.
