KI-Tools in der Sozialen Arbeit: Chancen und Risiken

Das Wichtigste in 1 Minute

Zu den KI-Tools in der Sozialen Arbeit zählen Chat-Assistenten, Übersetzer, Spracherkennung und KI-Funktionen in der Fachsoftware. Die höchsten Ablehnungswerte erhielten in einer Befragung von Leitungskräften 2024 Werkzeuge, die über Menschen urteilen.
Entlasten können sie beim Schreiben, Dokumentieren, Übersetzen und Erklären, aber nur, wenn das Prüfen des Ergebnisses weniger Zeit kostet, als das Werkzeug spart.
Risiken liegen bei Klientendaten, die an Anbieter ohne Vertrag gehen, bei Fehlern, die plausibel klingen, und bei Verzerrungen, sobald ein System Menschen bewertet.
Ob die strengen Hochrisiko-Pflichten der KI-Verordnung greifen, hängt vom Verwendungszweck ab; Schreibhilfe, Übersetzung und Wissensabfrage zählen für sich nicht dazu. Die Verbote und die Pflicht zu Maßnahmen für KI-Kompetenz gelten schon heute.
Vor dem ersten Einsatz mit Klientendaten stehen ein Verzeichnis, eine Datenregel, ein Werkzeug mit Vertrag und eine Fachkraft, die jedes Ergebnis prüft und ihm widersprechen kann.

KI-Tool ist kein Rechtsbegriff, sondern der Alltagsname für Software, die aus Eingaben selbst ableitet, was sie ausgibt: einen Text, eine Übersetzung, eine Vorhersage oder eine Empfehlung. Die KI-Verordnung der Europäischen Union spricht von KI-Systemen: maschinengestützten Systemen, die in unterschiedlichem Grad autonom arbeiten und aus Eingaben ableiten, wie sie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen (Art. 3 Nr. 1 KI-Verordnung).

Für die Praxis hilft eine zweite Unterscheidung. Erzeugende Werkzeuge, auch generative KI genannt, schreiben, übersetzen oder fassen zusammen. Bewertende Werkzeuge schätzen ein oder sagen vorher, etwa wie dringend ein Fall ist; sie wirken unmittelbar auf Entscheidungen über Menschen und verlangen deshalb strengere Regeln.

Sechs Arten von KI-Tools und wofür sie eingesetzt werden

Die genannten Produktnamen sind Beispiele, keine Empfehlung. Große Sprachmodelle sind Programme, die mit sehr großen Textmengen trainiert wurden und selbst Texte erzeugen.

KI-Tools in der Sozialen Arbeit nach Werkzeugart: typische Aufgaben, Hauptrisiko und erste Prüffrage
Werkzeugart	Typische Aufgaben	Hauptrisiko	Erste Prüffrage
Chat-Assistenten auf Basis großer Sprachmodelle, etwa ChatGPT, Microsoft Copilot oder Le Chat	Entwürfe für Briefe, Konzepte und Protokolle, Zusammenfassungen von Fachtexten	Klientendaten im Konto ohne Vertrag; erfundene Angaben im Ergebnis	Läuft das Werkzeug über ein Konto des Trägers mit Vertrag und nutzt der Anbieter die Eingaben nicht für sein Modell?
Übersetzung und einfache Sprache, etwa DeepL oder Übersetzungs-Apps	Verständigung mit Menschen ohne Deutschkenntnisse, Elternbriefe, Informationsblätter	Fehler bei Begriffen mit Rechtsfolgen; Gesprächsinhalte beim Anbieter	Wird der Text gespeichert und braucht dieses Gespräch eine Sprachmittlung durch einen Menschen?
Spracherkennung und Dokumentationsassistenz	Diktat, Gesprächsprotokoll, Entwurf für Verlaufs- oder Entwicklungsberichte	Aufnahme vertraulicher Gespräche; Gesundheitsdaten mehrerer Personen	Diktiert die Fachkraft nur selbst oder wird ein Gespräch aufgezeichnet?
KI-Funktionen in der Fachsoftware	Verläufe zusammenfassen, Ziele oder Maßnahmen vorschlagen	Neuer Zweck und neue Dienstleister, die per Update hinzukommen	Welche Daten nutzt die Funktion und wohin gehen sie?
Chatbots für Ratsuchende	Erstinformation zu Leistungen, Terminvergabe, Wegweiser zur Beratung	Falsche Auskunft; Menschen in einer Krise bleiben ohne Antwort eines Menschen	Ist erkennbar, dass ein KI-System antwortet, und wohin verweist es, wenn es nicht weiterweiß?
Bewertende Systeme	Risikoeinschätzung bei Kindeswohlgefährdung, Vorauswahl von Bewerbungen	Verzerrung zulasten einzelner Gruppen; zu viel Vertrauen in den Wert	Fällt der Einsatz unter die Hochrisiko-Liste und wer entscheidet am Ende?

Wie verbreitet diese Werkzeuge in sozialen Organisationen sind, zeigt ein Stimmungsbild von 2024. Die Arbeitsstelle für Sozialinformatik der Katholischen Universität Eichstätt-Ingolstadt befragte Anfang 2024 Leitungskräfte; auswertbar waren 185 Antworten aus Organisationen mit im Median 1.200 Beschäftigten. Die Autoren halten das Ergebnis nur eingeschränkt für repräsentativ und rechnen damit, dass die Teilnehmenden KI stärker nutzen als die Branche insgesamt. In Verwaltung und Steuerung nutzten 43 Prozent KI-gestützte Chatbots. In der Arbeit mit Klientinnen und Klienten lag die Nutzung im Mittel bei 8 Prozent, vorn die Sprachübersetzung (25 Prozent) und Kommunikationshilfen für Menschen mit sprachlichen Beeinträchtigungen (15 Prozent).

Die höchsten Ablehnungswerte betrafen Werkzeuge, die über Menschen urteilen: Software zur Vorauswahl von Personal konnten sich 40 Prozent der Befragten nicht vorstellen, KI-gestützte Diagnostik oder Risikoeinschätzung, etwa bei Kindeswohlgefährdung oder Druckgeschwüren, 25 Prozent. Als größtes Risiko nannten die Befragten fehlerhafte Entscheidungen durch die KI.

Im gemeinnützigen Sektor insgesamt nutzten 2025 nach einer nicht repräsentativen Befragung von ZiviZ (Zivilgesellschaft in Zahlen) im Stifterverband 73 Prozent von 1.235 Befragten generative KI-Werkzeuge, am meisten für Texte. Verbindliche Richtlinien dafür hatten nur 9 Prozent der Organisationen.

Was Träger und Sozialämter schon erproben

Der Deutsche Ethikrat stellte 2023 fest, dass algorithmenbasierte Entscheidungshilfen im deutschen Sozialwesen erst am Anfang stehen. Die belegten Beispiele aus Deutschland setzen bei Information, Übersetzung, Dokumentation und der Vorprüfung von Anträgen an.

Chatbot zum Bürgergeld. Der Caritasverband für das Erzbistum Köln hat mit weiteren Caritasverbänden einen Chatbot entwickelt, der anonym über Bürgergeld und Antragswege informiert, an Beratungsstellen verweist und bewusst keine personenbezogenen Daten abfragt. Die Verfasser des Projektberichts ordnen ihn nicht als Hochrisiko-System ein, weil er nur informiert und nicht über Ansprüche entscheidet, und raten, diese Einstufung schriftlich festzuhalten. Die Kosten für Entwicklung und Betrieb übersteigen nach ihrer Einschätzung in der Regel die Mittel eines einzelnen Verbands.
Chatbot und Antragsprüfung im Sozialamt. Die Stadt Nürnberg hat ab April 2024 einen Chatbot im Sozial- und Jugendamt erprobt. Er antwortet aus eigenen Wissensvorlagen zu Wohngeld, Beistandschaft und Kita-Gebühren, bei anderen Fragen nach Angabe der Stadt über ChatGPT aus ausgewählten Internetquellen; im zweiten Halbjahr 2024 nutzten ihn mehr als 10.000 Menschen. Ein Assistenzsystem auf Basis eines Sprachmodells prüfte von August bis Dezember 2024 100 Wohngeld-Erstanträge auf fehlende Nachweise und entwarf Anforderungsschreiben.
Dokumentation in der eigenen Sprache. Im Epilepsiezentrum Kork geben Mitarbeitende aus 90 Nationen ihre Dokumentation in ihrer Landessprache ein. Eine eigene KI übersetzt sie ins Deutsche und macht sie allen Mitarbeitenden zugänglich, berichtete der Präsident der Diakonie Deutschland im Juli 2026.
KI-gestützte Dokumentation in der Eingliederungshilfe. Der Paritätische Gesamtverband kündigte im März 2026 zwei Pilotprojekte mit diesem Schwerpunkt in seiner KI-Pilot-Werkstatt an.

Wo KI-Werkzeuge entlasten können

Die Verbände knüpfen das Potenzial an Bedingungen: Der Deutsche Caritasverband forderte 2023 Tests, Transparenz und menschliche Kontrolle gegen Diskriminierung, die Bundesarbeitsgemeinschaft der Freien Wohlfahrtspflege 2025, dass KI die Aufgaben, die nur Pflegefachpersonen übernehmen dürfen, nicht einschränkt. Der Deutsche Verein begrüßte 2026 ausdrücklich, dass Entscheidungen mit Ermessensspielraum in der Sozialverwaltung in menschlicher Hand bleiben sollen.

Schreiben und Dokumentieren

Entwürfe für Briefe, Protokolle und Konzepte sind die naheliegende Entlastung, weil das Werkzeug dabei nicht über Menschen entscheidet. Sprachmodelle können zudem Fachtexte zusammenfassen oder Material für Gruppenangebote vorbereiten. Bei der Dokumentation kann der Nutzen groß sein, der Schutzbedarf ist hoch, weil Berichte Angaben zu Gesundheit, Familie und Krisen enthalten. Was vor Spracherkennung, Gesprächsmitschnitt und KI-Berichtsentwürfen zu klären ist, beschreibt der Beitrag zur KI in der Dokumentation.

Verständigung und Teilhabe

Übersetzungswerkzeuge, Texte in einfacher Sprache und Kommunikationshilfen können Menschen erreichen, die sonst keinen Zugang zu einer Beratung oder Information hätten. Die Grenze liegt dort, wo ein Übersetzungsfehler Folgen hat, etwa bei Einwilligungen, Hilfeplänen oder Gesprächen über Gefährdungen.

Verwaltung

In der Verwaltung kommen Rechnungseingang, Dienstplanung und die Vorprüfung von Anträgen hinzu. Ob ein Werkzeug tatsächlich Zeit spart, zeigt sich erst, wenn man das Prüfen mitrechnet. Die Stadt Nürnberg konnte die Entlastung durch ihre Chat- und Voicebots nach ihrem Bericht vom Februar 2025 mangels Vergleichsdaten nicht beziffern. Bevor ein Träger ein Werkzeug für alle freigibt, lohnt deshalb ein begrenzter Test, der auch die Zeit für Korrekturen erfasst.

Wo die Risiken liegen

Klientendaten beim falschen Anbieter

Wer einen Bericht entwerfen oder ein Beratungsgespräch übersetzen lässt, gibt Angaben über Menschen an den Anbieter des Werkzeugs. Angaben zu Gesundheit, Sucht, Religion oder sexueller Orientierung sind besondere Kategorien personenbezogener Daten, deren Verarbeitung nur unter engen Ausnahmen erlaubt ist (Art. 9 Datenschutz-Grundverordnung, DSGVO). Für kirchliche Träger gelten stattdessen das Gesetz über den Kirchlichen Datenschutz (KDG) und das Datenschutzgesetz der Evangelischen Kirche in Deutschland (DSG-EKD), die solche Daten ebenfalls nur ausnahmsweise freigeben (§ 11 KDG, § 13 DSG-EKD). Wo Sozialdaten im Spiel sind, etwa in Sozial- und Jugendämtern, gilt zusätzlich das Sozialgeheimnis (§ 35 Erstes Buch Sozialgesetzbuch); was freie Träger beachten, beschreibt der Beitrag zum Sozialdatenschutz bei freien Trägern.

Hinzu kommt die strafrechtliche Schweigepflicht. Sie gilt unter anderem für staatlich anerkannte Sozialarbeiterinnen und Sozialpädagogen, für Ehe-, Familien-, Erziehungs-, Jugend- und Suchtberatung in behördlich anerkannten Beratungsstellen und für Heilberufe mit staatlich geregelter Ausbildung (§ 203 Abs. 1 Nr. 1, 4 und 6 Strafgesetzbuch, StGB). Gegenüber sonstigen Personen, die an ihrer Tätigkeit mitwirken, dürfen sie Geheimnisse nur offenbaren, soweit das für deren Mitwirkung erforderlich ist, und sie müssen dafür sorgen, dass diese Personen zur Geheimhaltung verpflichtet werden (§ 203 Abs. 3 und 4 StGB). Bei einem privaten Konto einer Fachkraft fehlen Vertrag und Verpflichtung. Wann ein KI-Anbieter als mitwirkende Person gelten kann, beschreibt der Beitrag zur Schweigepflicht bei IT, Cloud und KI, was bei privaten Konten folgt, der Beitrag zur Schatten-KI.

Namen wegzulassen reicht nicht immer. Eine Person bleibt identifizierbar, solange sie sich mit Mitteln erkennen lässt, die nach allgemeinem Ermessen wahrscheinlich genutzt werden (Erwägungsgrund 26 DSGVO). Nach der Datenschutzkonferenz (DSK), der Konferenz der Datenschutzaufsichtsbehörden von Bund und Ländern, genügt es in der Regel nicht, Namen und Anschriften zu entfernen. In einer kleinen Einrichtung können Alter, Wohnort und eine Diagnose reichen, um eine Person zu erkennen.

Fehler, die plausibel klingen

Sprachmodelle erzeugen Texte nach Wahrscheinlichkeiten; ob eine Aussage stimmt, prüfen sie nicht. Nach dem Bundesamt für Sicherheit in der Informationstechnik (BSI) erfinden sie Inhalte, die glaubhaft wirken können, bis hin zu frei erfundenen Quellenangaben. Hinzu kommt der Automatisierungsbias, die Neigung, überzeugend formulierten Ausgaben zu sehr zu vertrauen und sie ungeprüft zu übernehmen.

Nach der DSK sind Ergebnisse mit Personenbezug vor der Weiterverarbeitung zu prüfen, weil schon ein unrichtiges Ergebnis zu einer unzulässigen Verarbeitung führen kann. Für die Praxis heißt das: Wer einen KI-Entwurf in die Akte übernimmt oder an eine Behörde schickt, verantwortet ihn wie einen selbst geschriebenen Text.

Verzerrung, wenn Systeme Menschen bewerten

Bewertende Systeme lernen aus Daten der Vergangenheit und können deren Schieflagen fortschreiben. Der Deutsche Ethikrat hält Merkmale wie Sozialhilfebezug, alleinerziehende Elternschaft oder früheren Kontakt mit einer Jugendschutzbehörde für höchst zweifelhaft, wenn ein System sie ohne Blick auf den Einzelfall zur Einschätzung einer Kindeswohlgefährdung nutzt, weil sie bestehende Ungleichheiten und Vorurteile in künftige Entscheidungen tragen.

Aus der Aufsichtspraxis: Niederlande, 2021

Die niederländische Steuerverwaltung prüfte Anträge auf Zuschuss zu den Kosten der Kinderbetreuung (kinderopvangtoeslag) mit einem selbstlernenden Risikomodell. Darin diente die Staatsangehörigkeit als Indikator, obwohl der Anspruch nicht von ihr abhängt, sondern vom rechtmäßigen Aufenthalt. Die Datenschutzbehörde wertete das als diskriminierende und rechtswidrige Verarbeitung und verhängte mit Beschluss vom 25. November 2021 ein Bußgeld von 2,75 Millionen Euro gegen den Finanzminister, davon 1 Million Euro für diesen Indikator. Für die Betrugsbekämpfung insgesamt hatte eine Untersuchungskommission des Parlaments im Dezember 2020 festgestellt, dass Grundprinzipien des Rechtsstaats verletzt worden waren.

Ob ein Mensch wirklich entscheidet, ist auch eine Rechtsfrage. Nach Art. 22 Abs. 1 DSGVO hat jede Person das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich auf automatisierter Verarbeitung beruht und ihr gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt; der Gerichtshof der Europäischen Union (EuGH) versteht das als grundsätzliches Verbot. Schon ein automatisiert berechneter Wert kann eine solche Entscheidung sein, wenn von ihm maßgeblich abhängt, wie ein anderer anschließend entscheidet. Das Urteil betraf den Wert einer Auskunftei zur Zahlungsfähigkeit (Urteil vom 7. Dezember 2023, C-634/21, Rn. 48 bis 54).

Wie das in der Arbeitsmarktverwaltung ausgehen kann, zeigt ein System des österreichischen Arbeitsmarktservice, das Arbeitsuchende nach ihren Chancen in drei Gruppen einteilen sollte. Der Verwaltungsgerichtshof hielt 2023 fest, dass die Letztentscheidung der Beratung eine automatisierte Entscheidung nicht ausschließt, wenn der Wert maßgeblich ist. Das Bundesverwaltungsgericht verneinte sie 2025, weil die Beratung inhaltlich und nicht nur formal mitwirkte: eigene Einschätzung vor dem Abgleich mit dem Wert, Pflicht zur Korrektur, Dokumentation und Erklärung gegenüber den Arbeitsuchenden.

Österreichische Entscheidungen binden deutsche Stellen nicht. Dort konnte sich die Verarbeitung zudem auf ein Gesetz stützen; ob für einen freien Träger eine Ausnahme nach Art. 22 Abs. 2 DSGVO greift, ist gesondert zu prüfen. Eine Gestaltungsaufgabe lässt sich trotzdem ableiten. Wer mit einem KI-Vorschlag arbeitet, braucht Zeit, die Befugnis, ihm zu widersprechen, und die Pflicht, die eigene Entscheidung zu begründen. Der Ethikrat regt für die Verwaltung an zu prüfen, ob eine Umkehr der Begründungspflicht hilft: Zu rechtfertigen wäre dann das Befolgen der Empfehlung, nicht die Abweichung.

Fachliches Urteil und Beziehung

Der Ethikrat sieht im Sozialwesen ein eigenes Risiko: Fachkräfte könnten Ergebnisse aus Zeitdruck oder Gewöhnung ungeprüft übernehmen und eine standardisierte Erfassung des Bedarfs könne sich von der Beziehungsarbeit lösen. Der Präsident der Diakonie Deutschland warnte im Juli 2026 vor einem unkritischen KI-Einsatz bei psychischen Krisen.

Was die KI-Verordnung von Trägern verlangt

Die KI-Verordnung (EU) 2024/1689 gilt in der Fassung der Änderungsverordnung (EU) 2026/1744 vom Juli 2026. Wer ein fertiges Werkzeug in eigener Verantwortung einsetzt, ist Betreiber. Wer ein System entwickeln lässt und unter eigenem Namen in Betrieb nimmt, etwa einen eigenen Chatbot, ist Anbieter (Art. 3 Nr. 3 und 4).

KI-Kompetenz: Gemeint ist die Fähigkeit, KI-Systeme sachkundig einzusetzen und ihre Chancen und Risiken zu erkennen (Art. 3 Nr. 56). Seit dem 27. Juli 2026 verpflichtet Art. 4 Anbieter und Betreiber, Maßnahmen zu ergreifen, die die KI-Kompetenz ihres Personals und anderer in ihrem Auftrag tätiger Personen unterstützen; ein bestimmtes Niveau schulden sie nicht. Eine Pflicht dazu besteht seit Februar 2025. Welche Maßnahmen sich eignen, beschreibt der Beitrag zur KI-Kompetenz nach Art. 4.
Verbote: Ebenfalls seit Februar 2025 verboten ist unter anderem, die Schutzbedürftigkeit von Menschen wegen ihres Alters, einer Behinderung oder ihrer sozialen oder wirtschaftlichen Lage mit dem Ziel oder der Wirkung auszunutzen, ihr Verhalten wesentlich zu verändern, wenn ihnen oder anderen dadurch erheblicher Schaden droht (Art. 5 Abs. 1 Buchst. b). Am Arbeitsplatz und in Bildungseinrichtungen ist es verboten, Emotionen abzuleiten, außer aus medizinischen Gründen oder Sicherheitsgründen (Buchst. f).
Transparenz: Seit dem 2. August 2026 muss ein Chatbot so gestaltet sein, dass Menschen erfahren, dass sie mit einem KI-System sprechen, sofern das nicht offensichtlich ist; diese Pflicht trifft den Anbieter (Art. 50 Abs. 1). Wann der Träger selbst kennzeichnen muss, klärt der Beitrag zur Kennzeichnung nach Art. 50.
Hochrisiko-KI: Ab dem 2. Dezember 2027 gelten strenge Pflichten für Systeme in den Einsatzfeldern, die Anhang III aufzählt. Für Träger kommen Personalauswahl und Leistungsbeobachtung (Nr. 4) und Bildung (Nr. 3) in Betracht, außerdem Systeme, die Behörden oder Stellen in deren Namen verwenden, um zu beurteilen, ob Menschen Anspruch auf grundlegende öffentliche Unterstützungsleistungen und Dienste haben und ob diese zu gewähren, einzuschränken, zu widerrufen oder zurückzufordern sind (Nr. 5 Buchst. a). Ob ein freier Träger darunter fällt, wenn er an Leistungsentscheidungen mitwirkt, ist eine Auslegungsfrage.

Maßgeblich ist der Verwendungszweck, nicht das Werkzeug. Schreibhilfe, Übersetzung und Wissensabfrage stehen für sich nicht auf der Liste; wer ein Chat-Werkzeug aber zur Vorauswahl von Bewerbungen einsetzt, nutzt es in einem Feld des Anhangs III. Ein System in einem dieser Felder gilt nicht als hochriskant, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng gefasste Verfahrensaufgabe erledigt oder eine Bewertung lediglich vorbereitet. Wertet es persönliche Merkmale automatisiert aus, um etwa Verhalten oder Chancen einer Person vorherzusagen (Profiling), gilt es immer als hochriskant (Art. 6 Abs. 3).

Welche Fristen gelten, zeigt der Fristenkalender zur KI-Verordnung, was sie für Bewerbungsverfahren heißen, der Beitrag zu KI in der Personalauswahl.

Wie ein Träger KI-Tools in sieben Schritten einführt

Erheben Sie, was schon genutzt wird. Fragen Sie die Teams ohne Schuldzuweisung, welche Werkzeuge sie für welche Aufgaben verwenden, auch über private Konten. Das Ergebnis ist ein Verzeichnis mit Zweck, Hersteller und einer vorläufigen Einordnung nach der KI-Verordnung.
Legen Sie Zweck und Daten fest. Die DSK empfiehlt, Einsatzfeld und Zweck vor dem Einsatz ausdrücklich festzulegen. Für Klientendaten braucht jede Verarbeitung eine Rechtsgrundlage, bei Gesundheitsdaten eine der Ausnahmen des Art. 9 Abs. 2 DSGVO. Welche Daten in welches Werkzeug dürfen, regelt eine Datenregel mit wenigen Klassen; eine kommentierte Vorlage bietet der Beitrag zu Datenklassen für KI-Werkzeuge.
Stellen Sie ein Werkzeug mit Vertrag bereit. Dazu gehören ein Vertrag zur Auftragsverarbeitung, mit dem der Anbieter Daten nur auf Weisung des Trägers verarbeitet (Art. 28 DSGVO), die Verpflichtung zur Verschwiegenheit nach § 203 Abs. 4 StGB, dienstliche Konten statt privater und Voreinstellungen, bei denen Eingaben nicht zum Training dienen. Ein Verbot ohne zugelassene Alternative kann die Nutzung auf private Konten verlagern; ohne klare Regeln nutzen Beschäftigte KI nach Einschätzung der DSK eigenmächtig und unkontrolliert.
Prüfen Sie das Risiko vor dem Start. Eine Datenschutz-Folgenabschätzung ist eine vorab dokumentierte Prüfung der Risiken für die betroffenen Personen. Nach Einschätzung der DSK wird sie beim Einsatz von KI „vielfach“ erforderlich sein, nämlich wenn die Vorprüfung ein hohes Risiko ergibt; das Gesetz nennt ausdrücklich die umfangreiche Verarbeitung besonderer Kategorien wie Gesundheitsdaten (Art. 35 Abs. 3 Buchst. b DSGVO). Der Projektbericht der Caritas zum Bürgergeld-Chatbot rät, auch die Einstufung nach der KI-Verordnung schriftlich festzuhalten.
Beteiligen Sie Datenschutzbeauftragte und Interessenvertretung. Die DSK rät, beide einzubinden. Über den geplanten Einsatz von KI unterrichtet der Arbeitgeber den Betriebsrat rechtzeitig (§ 90 Abs. 1 Nr. 3 Betriebsverfassungsgesetz, BetrVG); Mitbestimmung kann hinzukommen, etwa bei technischen Einrichtungen zur Überwachung von Verhalten oder Leistung (§ 87 Abs. 1 Nr. 6 BetrVG). Kirchliche Träger beteiligen nach Mitarbeitervertretungsrecht, kommunale nach Personalvertretungsrecht (§§ 118 und 130 BetrVG). Welche Vertretung wann beteiligt wird, vergleicht der Beitrag zur Mitbestimmung bei der KI-Einführung.
Befähigen Sie die Beschäftigten. Einweisung, Nutzungsregeln mit Beispielen und eine Ansprechperson können Maßnahmen zur KI-Kompetenz nach Art. 4 sein. Dokumentieren Sie, wer welche Einweisung erhalten hat.
Regeln Sie Prüfung und Verantwortung. Jedes Ergebnis prüft eine Fachkraft, bevor es in die Akte, an Klientinnen und Klienten oder an eine Behörde geht. Werkzeuge, die Menschen bewerten, schlagen höchstens vor; die Entscheidung trifft und begründet ein Mensch, der Zeit und Befugnis hat, abzuweichen.

Meine Empfehlung

Beginnen Sie mit Aufgaben ohne Personenbezug: Informationsblätter, Konzepte, Übersetzungen von Material für alle. Dort lassen sich Nutzen und Prüfaufwand messen, ohne dass Klientendaten das Haus verlassen. Erst wenn Vertrag, Datenregel und Einweisung stehen, folgt die Dokumentation.

Eine KI-Richtlinie fasst diese Regeln für den ganzen Träger zusammen. Wie eine solche Richtlinie entsteht und wie ich eine vorhandene prüfe, beschreibt die Seite zur KI-Richtlinie.

Stand: 14. Oktober 2026. KI-Verordnung in der Fassung der Verordnung (EU) 2026/1744, DSGVO ohne die Änderungsvorschläge der Europäischen Kommission. Ob gegen die österreichische Entscheidung von 2025 eine außerordentliche Revision erhoben wurde, ließ sich nicht feststellen.

Fragen zu KI-Tools im Arbeitsalltag

Darf ich ChatGPT in der Sozialen Arbeit nutzen?

Für Aufgaben ohne Angaben über Menschen, etwa einen Entwurf für ein Informationsblatt, stellen sich Fragen des Klientendatenschutzes und der Schweigepflicht nicht; es gelten die Regeln des Trägers, etwa zu Dienstkonten. Angaben über Klientinnen und Klienten gehören nur in ein Werkzeug, mit dessen Anbieter der Träger einen Vertrag hat und das ihn zur Verschwiegenheit verpflichtet. Ein privates Konto erfüllt das nicht.

Was können Fachkräfte selbst beachten, solange der Träger nichts geregelt hat?

Keine Angaben über Klientinnen, Klienten oder Kolleginnen und Kollegen in ein privates KI-Konto eingeben, auch nicht ohne Namen. Jedes Ergebnis prüfen, bevor es weitergeht, Zahlen, Fristen und Paragrafen an der Quelle nachschlagen und bei Gesprächen mit Rechtsfolgen, etwa zu Einwilligung oder Kinderschutz, eine Sprachmittlung durch einen Menschen verlangen. Wo Bedarf besteht, bei der Leitung nach einem zugelassenen Werkzeug fragen.

Welche KI-Tools darf man mit Klientendaten nutzen?

Kein Werkzeug ist von sich aus erlaubt. Es braucht eine Rechtsgrundlage für die Verarbeitung, bei Gesundheitsdaten eine Ausnahme nach Art. 9 Abs. 2 DSGVO, dazu einen Vertrag zur Auftragsverarbeitung, die Verpflichtung nach § 203 StGB, den Ausschluss des Trainings, einen bekannten Speicherort und eine Prüfung des Risikos durch den Träger. Ob das erfüllt ist, hängt vom Konto und den Einstellungen ab, nicht vom Produktnamen.

Ist KI in der Sozialen Arbeit Hochrisiko-KI?

Das hängt vom Verwendungszweck ab, nicht vom Werkzeug. Schreibhilfe, Übersetzung und Wissensabfrage sind es für sich nicht; wer ein Chat-Werkzeug aber zur Vorauswahl von Bewerbungen einsetzt, nutzt es in einem Feld des Anhangs III. Ab dem 2. Dezember 2027 können Hochrisiko-Pflichten Systeme für Personalauswahl und Bildung treffen und, wenn Behörden oder Stellen in deren Namen sie verwenden, Systeme zur Prüfung von Ansprüchen auf öffentliche Leistungen.

Darf eine KI über Hilfen für Klientinnen und Klienten entscheiden?

Eine KI darf vorschlagen, entscheiden sollte ein Mensch, der tatsächlich abweichen kann. Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung dürfen nur ausnahmsweise ausschließlich automatisiert fallen (Art. 22 DSGVO). Für Behörden der Sozialverwaltung gilt zusätzlich: Ein Verwaltungsakt, also ein Bescheid im Einzelfall, darf nur vollautomatisch ergehen, wenn kein Anlass besteht, den Einzelfall durch einen Menschen zu bearbeiten (§ 31a Zehntes Buch Sozialgesetzbuch, SGB X).

Muss ich Texte kennzeichnen, die ich mit KI geschrieben habe?

Für Betreiber verlangt die KI-Verordnung bei Texten eine Offenlegung nur, wenn ein KI-Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, ein Mensch hat ihn geprüft oder redaktionell kontrolliert und jemand trägt die redaktionelle Verantwortung (Art. 50 Abs. 4). Ob etwa Informationsblätter oder Newsletter eines Trägers darunter fallen, ist eine Auslegungsfrage. Ein Träger kann in seiner KI-Richtlinie mehr verlangen.

Quellen

Europäische Union: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27. Juli 2026 ohne Rechtswirkung, Art. 3 Nr. 1, 3, 4 und 56, Art. 4, 5, 6, 50, 113 und Anhang III. EUR-Lex, abgerufen am 14. Oktober 2026.
Europäische Union: Verordnung (EU) 2026/1744 vom 8. Juli 2026 zur Änderung der Verordnungen (EU) 2024/1689, (EU) 2018/1139 und (EU) 2023/1230 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24. Juli 2026. EUR-Lex, abgerufen am 14. Oktober 2026.
Europäisches Parlament und Rat: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 9, 22, 28 und 35, Erwägungsgrund 26. EUR-Lex, abgerufen am 14. Oktober 2026.
Verband der Diözesen Deutschlands: Gesetz über den Kirchlichen Datenschutz (KDG), Fassung des Beschlusses vom 24. November 2025, § 11, in Kraft gesetzt durch das Bistum Hildesheim zum 1. März 2026. PDF des Bistums Hildesheim, abgerufen am 14. Oktober 2026.
Evangelische Kirche in Deutschland: EKD-Datenschutzgesetz (DSG-EKD), Bekanntmachung der Neufassung vom 15. Januar 2025, § 13. kirchenrecht-ekd.de, abgerufen am 14. Oktober 2026.
Bundesministerium der Justiz und für Verbraucherschutz: Strafgesetzbuch, § 203 Abs. 1, 3 und 4. gesetze-im-internet.de, abgerufen am 14. Oktober 2026.
Bundesministerium der Justiz und für Verbraucherschutz: Erstes Buch Sozialgesetzbuch, § 35, und Zehntes Buch Sozialgesetzbuch, § 31a. § 35 SGB I und § 31a SGB X auf gesetze-im-internet.de, abgerufen am 14. Oktober 2026.
Bundesministerium der Justiz und für Verbraucherschutz: Betriebsverfassungsgesetz, § 87 Abs. 1 Nr. 6, § 90 Abs. 1 Nr. 3, § 118 Abs. 2 und § 130. gesetze-im-internet.de, abgerufen am 14. Oktober 2026.
Gerichtshof der Europäischen Union: Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA Holding, Scoring), Rn. 43 bis 54 und Tenor. EUR-Lex, abgerufen am 14. Oktober 2026.
Verwaltungsgerichtshof (Österreich): Erkenntnis vom 21. Dezember 2023, Ro 2021/04/0010, Rn. 4 bis 6, 46 f. und 75 bis 87. ris.bka.gv.at, abgerufen am 14. Oktober 2026.
Bundesverwaltungsgericht (Österreich): Erkenntnis vom 1. September 2025, W256 2235360-1/36E, Spruch, rechtliche Beurteilung zu Art. 22 DSGVO und Zulässigkeit der Revision. ris.bka.gv.at, abgerufen am 14. Oktober 2026.
Deutscher Ethikrat: Mensch und Maschine. Herausforderungen durch Künstliche Intelligenz, Stellungnahme vom 20. März 2023, 2. Auflage 2025, S. 306 bis 317 und 330 (Empfehlung Verwaltung 2). ethikrat.org, abgerufen am 14. Oktober 2026.
Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder: Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 vom 6. Mai 2024, Rn. 1 f., 9 f., 24, 31, 36 bis 43, 48 f. und 64 f. datenschutzkonferenz-online.de, abgerufen am 14. Oktober 2026.
Bundesamt für Sicherheit in der Informationstechnik: Generative KI-Modelle. Chancen und Risiken für Industrie und Behörden, Version 2.0 vom 17. Januar 2025, R4 und R8, S. 15 und 17. bsi.bund.de, abgerufen am 14. Oktober 2026.
Arbeitsstelle für Sozialinformatik der Katholischen Universität Eichstätt-Ingolstadt (Helmut Kreidenweis, Maria Diepold): Studie Künstliche Intelligenz in der Sozialwirtschaft. Forschungsbericht, Juni 2024, S. 6 f., 13 f. und 22 bis 25. PDF der Universität, abgerufen am 14. Oktober 2026.
ZiviZ im Stifterverband: Individuell genutzt, aber strategisch vernachlässigt. Status quo und Handlungsbedarfe zu generativer KI im gemeinnützigen Sektor, Discussion Paper, Dezember 2025, S. 3 bis 9. ziviz.de, abgerufen am 14. Oktober 2026.
Caritasverband für das Erzbistum Köln (Michaela Hofmann, Sebastian Schiffer): Orientierungshinweise KI Chat. Erkenntnisse aus der Entwicklung des Bürgergeld-Chatbots, Stand 6. November 2025, S. 2 bis 6 und 10. caritasnet.de, abgerufen am 14. Oktober 2026.
Stadt Nürnberg: Einsatz von Künstlicher Intelligenz bei der Stadtverwaltung Nürnberg. Erprobung und erste Erkenntnisse, Sachverhaltsdarstellung vom 18. Februar 2025 für den Personal- und Organisationsausschuss am 18. März 2025, S. 2 bis 4. nuernberg.de, abgerufen am 14. Oktober 2026.
Evangelischer Pressedienst auf evangelisch.de: Diakonie-Präsident mahnt klare KI-Regeln für Sozialeinrichtungen an, 30. Juli 2026. evangelisch.de, abgerufen am 14. Oktober 2026.
Der Paritätische Gesamtverband: Zwei starke Pilotprojekte starten in der KI-Pilot-Werkstatt durch, Meldung vom 20. März 2026. der-paritaetische.de, abgerufen am 14. Oktober 2026.
Deutscher Caritasverband: Digitale Zukunft gestalten: Mehr Teilhabe für alle. Digitalpolitische Positionen des Deutschen Caritasverbandes, 5. Oktober 2023, S. 15 bis 17. caritas.de, abgerufen am 14. Oktober 2026.
Bundesarbeitsgemeinschaft der Freien Wohlfahrtspflege: KI-gestützte Anwendungen in der Langzeitpflege. Grundsätze aus pflegefachlicher Perspektive, Diskussionspapier vom 7. April 2025, Thesen I und II. bagfw.de, abgerufen am 14. Oktober 2026.
Deutscher Verein für öffentliche und private Fürsorge: Stellungnahme zu den Empfehlungen der Kommission zur Sozialstaatsreform vom 27. Januar 2026 (DV 2/26), 25. März 2026, S. 20 f. deutscher-verein.de, abgerufen am 14. Oktober 2026.
Autoriteit Persoonsgegevens (niederländische Datenschutzbehörde): Tax Administration fined for discriminatory and unlawful data processing, Pressemitteilung vom 7. Dezember 2021 zum Bußgeldbeschluss vom 25. November 2021. autoriteitpersoonsgegevens.nl, abgerufen am 14. Oktober 2026.
Tweede Kamer der Staten-Generaal, Parlementaire ondervragingscommissie Kinderopvangtoeslag: Ongekend onrecht, Bericht vom 17. Dezember 2020, S. 7 bis 14. tweedekamer.nl, abgerufen am 14. Oktober 2026.

Christian Monat

Ich bin externer Datenschutzbeauftragter mit IHK-Abschluss und seit 2019 in Team- und Einrichtungsleitung im Sozialwesen tätig. Hier schreibe ich über Datenschutz, Schweigepflicht und den geregelten Einsatz von KI in der Sozialen Arbeit und Pflege. Mehr über mich

Der Beitrag erklärt die Rechtslage und ersetzt keine Rechtsberatung im Einzelfall.

KI-Tools in der Sozialen Arbeit: Chancen, Risiken und Beispiele aus der Praxis