Das Wichtigste in Kürze
- Beim Datenschutz von ChatGPT entscheidet die Kontoart. Bei einem privaten Konto behält sich OpenAI nach den Nutzungsbedingungen vor, Eingaben zum Training zu nutzen, solange Nutzende das nicht abschalten. Der Träger hat keinen Vertrag mit OpenAI, deshalb gehören Angaben über Klientinnen und Klienten, pflegebedürftige Menschen, Kinder, Eltern oder Beschäftigte dort nicht hinein, auch nicht, wenn nur der Name fehlt.
- Bei einem Unternehmenskonto (ChatGPT Business oder Enterprise) nutzt OpenAI Eingaben nach seinen Bedingungen zur Verbesserung der Dienste nur mit ausdrücklicher Zustimmung und bietet einen Auftragsverarbeitungsvertrag an, nach dem OpenAI Daten nur auf Weisung des Trägers verarbeitet.
- Dieser Standardvertrag geht davon aus, dass keine sensiblen Daten übertragen werden sollen. Gesundheits-, Beratungs- und Sozialdaten verlangen deshalb auch in einem Konto mit Vertrag eine eigene Prüfung von Rechtsgrundlage, Schweigepflicht und den Regeln für übermittelte Sozialdaten.
- Einstellungen wie „Training aus“ oder der temporäre Chat senken Risiken, ersetzen aber weder Vertrag noch Rechtsgrundlage.
- In den ausgewerteten Stellungnahmen von Aufsichtsbehörden findet sich keine Freigabe von ChatGPT für soziale Träger. Ein Gericht in Rom hat den Beschluss der italienischen Aufsicht von 2024 (Bußgeld von 15 Millionen Euro gegen OpenAI) im März 2026 aus Zuständigkeitsgründen aufgehoben, ohne über die Vorwürfe zur Sache zu entscheiden. Als Beleg gegen ChatGPT trägt der Beschluss deshalb nicht.
ChatGPT ist der Chat-Dienst von OpenAI, der auf Eingaben (Prompts) mit erzeugten Texten antwortet. Für Nutzende im Europäischen Wirtschaftsraum (EWR) und in der Schweiz ist OpenAI Ireland Limited der Anbieter und bei privaten Konten der Verantwortliche im Sinne des Datenschutzrechts; verarbeitet wird auch auf Servern in den USA (Datenschutzrichtlinie von OpenAI, Abschnitte 10 und 12).
Mitarbeitende können ChatGPT mit einem privaten Konto, mit einem Unternehmenskonto des Trägers oder gar nicht nutzen; für den Datenschutz hat jede Variante eine andere Vertrags- und Datenlage. Mehrere Hilfeseiten von OpenAI waren am 21. Oktober 2026 erst wenige Stunden zuvor geändert worden. Jede Einstellung ist deshalb vor der Freigabe am Bildschirm zu prüfen.
Die Kontoart entscheidet über den Vertrag
OpenAI trennt private Konten von Konten für Organisationen. Daran hängen die Vertragsgrundlage, die Rolle von OpenAI und die Frage, ob Eingaben ins Training gehen. Für Organisationen bietet OpenAI einen Auftragsverarbeitungsvertrag an, das Data Processing Addendum (DPA). Ihre Konten laufen in einem Workspace, einem gemeinsamen Arbeitsbereich mit eigenen Einstellungen und Mitgliedern.
| Merkmal | Privates Konto (Free, Go, Plus, Pro) | ChatGPT Business | Enterprise |
|---|---|---|---|
| Vertragsgrundlage | Nutzungsbedingungen für Europa (Stand 16. Januar 2026) | OpenAI-Dienstvereinbarung (gültig ab 1. Januar 2026) | Dieselbe OpenAI-Dienstvereinbarung |
| Rolle von OpenAI | Verantwortlicher | Auftragsverarbeiter nach DPA | Auftragsverarbeiter nach DPA |
| Training mit Eingaben | Möglich, bis Nutzende es abschalten | Standardmäßig nicht | Standardmäßig nicht |
| Zugriff des Trägers | Keiner, außer das Konto wird dem Geschäftskonto zugeordnet | Administratoren; Umfang uneinheitlich beschrieben | Administratoren; Prüfprotokoll der Gespräche über eine Schnittstelle (Compliance-API) |
| Aufbewahrung | Gelöschte Chats binnen 30 Tagen entfernt | Administratoren können die Dauer festlegen; gelöschte Gespräche binnen 30 Tagen entfernt | Administratoren legen die Dauer fest |
| Speicherort | Auch USA | Hilfeseite nennt Business nicht unter den Berechtigten für Europa | Europa wählbar für neue Workspaces |
Als Verantwortlicher bestimmt OpenAI selbst über Zwecke wie das Training. Als Auftragsverarbeiter darf OpenAI die Daten nur nach Weisung des Trägers verarbeiten (DPA Nr. 1.1 und 2.1); dafür braucht es einen Vertrag mit gesetzlichem Mindestinhalt (Art. 28 Abs. 3 der Datenschutz-Grundverordnung, DSGVO). Kirchliche Träger wenden statt der DSGVO das KDG (Gesetz über den Kirchlichen Datenschutz, katholisch) oder das DSG-EKD (Datenschutzgesetz der Evangelischen Kirche in Deutschland) an; Art. 28 entspricht dort § 29 KDG und § 30 DSG-EKD.
Bei privaten Konten kann OpenAI nach den Nutzungsbedingungen Eingaben und Ausgaben weltweit nutzen, um die Dienste bereitzustellen, weiterzuentwickeln und zu verbessern; dem Training können Nutzende in den Kontoeinstellungen widersprechen. Legt jemand das Konto mit der E-Mail-Adresse des Trägers an, kann OpenAI es dem Geschäftskonto der Organisation hinzufügen; nach der Übertragung kann deren Administrator auf die Inhalte zugreifen. OpenAI darf dem Arbeitgeber außerdem mitteilen, dass ein solches Konto besteht.
Wer ein privates Konto geschäftlich nutzt, bleibt bei diesen Bedingungen samt Nachtrag zur geschäftlichen Nutzung. Dieser Nachtrag beschränkt die Haftung von OpenAI auf den in zwölf Monaten gezahlten Betrag oder 100 US-Dollar (je nachdem, was höher ist), verpflichtet Organisationen zur Freistellung von Ansprüchen Dritter und unterstellt den Vertrag kalifornischem Recht.
ChatGPT Team wurde am 29. August 2025 in ChatGPT Business umbenannt. Es gilt die Dienstvereinbarung von OpenAI (englisch Services Agreement): Kundeninhalte nutzt OpenAI nur zur Leistungserbringung, zur Einhaltung von Recht und Richtlinien und gegen Missbrauch, zur Verbesserung der Dienste nur mit ausdrücklicher Zustimmung des Kunden (Nr. 4.2). Werden personenbezogene Daten verarbeitet, gilt das DPA (Nr. 5.3); Kunden im EWR schließen es mit OpenAI Ireland Ltd.
Die Dienstvereinbarung enthält auch eine Freistellung von OpenAI, unter anderem wegen Ansprüchen aus Kundeninhalten (Nr. 13.2). Sie begrenzt die Haftung grundsätzlich auf die in zwölf Monaten gezahlten Entgelte, mit Ausnahmen etwa für die Freistellung (Nr. 14.2). Streitigkeiten sind grundsätzlich in einem verbindlichen Schiedsverfahren zu klären, mit Ausnahmen etwa für Verfahren vor Gerichten für geringfügige Forderungen (Nr. 15); für Kunden im EWR gilt irisches Recht (Nr. 16.3).
Wer im Business-Tarif Chats einsehen kann, beschreibt OpenAI uneinheitlich. Die Datenschutzrichtlinie nennt Zugriff der Administratoren auf Inhalte; die Seite „Enterprise-Datenschutz“ (Stand 8. Januar 2026) sagt, Administratoren könnten Gespräche einsehen, exportieren und löschen. Die Hilfeseite zu Business sagt dagegen, Administratoren und Inhaber sähen standardmäßig nicht alle privaten Chats; Inhaber können die Daten eines Mitglieds exportieren, wenn die Option verfügbar ist.
Nach der Dienstvereinbarung muss der Kunde die Einwilligungen der Endnutzer einholen, die für die Tätigkeiten der Administratoren nötig sind (Nr. 3.2). Ob eine Einwilligung im Arbeitsverhältnis die richtige Grundlage ist, klärt der Träger mit dem Datenschutzbeauftragten. Wird ein Mitglied aus einem Business-Workspace entfernt, bleiben seine Chats nach der Hilfeseite zu entfernten Mitgliedern unbefristet erhalten und kehren zurück, wenn es wieder hinzugefügt wird. Daneben steht die Angabe der Seite „Enterprise-Datenschutz“, Administratoren könnten die Aufbewahrungsdauer festlegen.
Enterprise wird über den Vertrieb von OpenAI beauftragt. Edu richtet OpenAI an Universitäten aus und verweist auf eine Vereinbarung zum Schutz von Schülerdaten. Das Angebot „ChatGPT für das Gesundheitswesen“ ist auf das US-Gesundheitsdatenschutzrecht (HIPAA) ausgelegt; zur Schweigepflicht nach § 203 des Strafgesetzbuchs (StGB) und zu Sozialdaten sagen die ausgewerteten Seiten nichts.
Was Einstellungen leisten und was nicht
Die Datenkontrollen liegen in ChatGPT unter den Einstellungen. Welche Optionen erscheinen, hängt von Tarif und Vorgaben des Workspaces ab.
| Einstellung | Wirkung | Grenze |
|---|---|---|
| Training ausschalten („Improve the model for everyone“), private Konten | Neue Gespräche gehen nicht ins Training; die Wahl gilt kontoweit auf allen Geräten | Gespeicherte Chats bleiben im Verlauf. Eine Daumen-Rückmeldung kann die ganze Unterhaltung trotzdem ins Training bringen |
| Temporärer Chat | Kein Eintrag im Verlauf, legt keine Erinnerungen an, kein Training; ein personalisierter temporärer Chat kann vorhandene Erinnerungen nutzen | OpenAI kann eine Kopie bis zu 30 Tage für Sicherheitszwecke behalten. Wird der Chat gespeichert, gelten wieder die Kontoeinstellungen |
| Erinnerungen (Memory) ausschalten | ChatGPT personalisiert nicht mehr mit früheren Chats | Der Schalter ist vom Trainingsschalter getrennt. Erinnerungen auszuschalten beendet das Training nicht: Bei privaten Konten kann OpenAI nach der Hilfeseite Chats und gemerkte Informationen zur Verbesserung der Modelle nutzen, solange „Improve the model for everyone“ an ist. Das Löschen eines Chats löscht eine daraus entstandene gespeicherte Erinnerung nicht automatisch. Erinnerungen können je nach Tarif und Region auch aus verbundenen Apps wie Gmail stammen |
| Chats löschen | OpenAI entfernt sie nach eigenen Angaben binnen 30 Tagen aus den Systemen | Ausnahmen bei rechtlicher Aufbewahrungspflicht, aus Sicherheitsgründen und für schon de-identifizierte, vom Konto getrennte Inhalte, falls die Verbesserung der Modelle erlaubt war |
| Werbung und Personalisierung (Free und Go) | Die EU-Datenschutzrichtlinie (Stand 24. August 2026) sieht in diesen Tarifen Werbung vor; wo die Personalisierung verfügbar und eingeschaltet ist, nutzt OpenAI dafür frühere Chats | Das Werbesystem wertet auch den Zusammenhang des laufenden Chats aus, ebenso bei abgeschalteter Personalisierung. Nach der Hilfeseite ist personalisierte Werbung im EWR und in der Schweiz zunächst nicht verfügbar. Die Werbeeinstellungen liegen in den Kontoeinstellungen und ersetzen keinen Vertrag mit dem Träger |
| Rückmeldungen im Workspace | Administratoren können „Allow response feedback“ abschalten | Die Seite „Enterprise-Datenschutz“ nennt freiwillige Feedback-Wege als möglichen Weg zur Zustimmung, die Hilfeseite zum Modelltraining schließt Training über die Daumen-Rückmeldung aus und kennt Training nur mit gesonderter Vereinbarung. Welche Wege gemeint sind, ist offen; maßgeblich ist der Vertrag |
Ein privates Konto bleibt auch mit abgeschaltetem Training ein Konto ohne Vertrag mit dem Träger und ohne Verpflichtung zur Geheimhaltung; was das für die Praxis heißt, beschreibt der Beitrag zu privaten KI-Konten im Dienst. OpenAI prüft Inhalte außerdem mit automatischen Systemen und menschlicher Durchsicht auf Verstöße (Nutzungsbedingungen).
Die Datenschutzkonferenz (DSK), der Zusammenschluss der Datenschutzaufsichten von Bund und Ländern, rät, Beschäftigten Geräte und Konten des Arbeitgebers zu stellen, damit keine Profile einzelner Beschäftigter entstehen. Training und Verlauf lassen sich schon bei der Einrichtung ausschalten; die Konten sollen nicht die Namen einzelner Beschäftigter tragen (Orientierungshilfe KI, Randnummern (Rn.) 41 bis 43). Teilen sich mehrere Beschäftigte ein solches Konto, verstößt das gegen die Regel von OpenAI, dass ein Endnutzerkonto nur von einer Person genutzt wird (Dienstvereinbarung Nr. 3.2); wie der Träger das auflöst, klärt er mit dem Datenschutzbeauftragten.
Was auch ein Konto mit Vertrag nicht trägt
Das DPA von OpenAI ist ein Standardvertrag. Der Kunde versichert darin, alle nötigen Rechte, Zustimmungen und Genehmigungen für die Übergabe der Daten zu besitzen (DPA Nr. 3.1).
Aus dem Auftragsverarbeitungsvertrag von OpenAI: Anhang 1 Nr. 5
Für sensible Daten ist eingetragen, es sollten keine übertragen werden, es sei denn, Nutzende fügten sie unerwartet in unstrukturierte Daten ein. Ich lese das so: Für Gesundheits- und Sozialdaten sieht der Standardvertrag keine zusätzlichen Schutzmaßnahmen vor; es gelten nur die allgemeinen Pflichten, etwa zu Vertraulichkeit, Sicherheit und Meldung von Verletzungen (DPA Nr. 2.3, 2.5 und 2.7).
| Angabe | Grenze | Fundstelle |
|---|---|---|
| Anvertraute Geheimnisse aus Beratung, Betreuung und Pflege | Weitergabe an mitwirkende Personen nur soweit erforderlich und nur bei Verpflichtung zur Geheimhaltung. § 203 StGB kommt in den ausgewerteten Dokumenten von OpenAI nicht vor | § 203 Abs. 3 und 4 StGB |
| Sozialdaten, die ein Leistungsträger (Jugendamt, Pflegekasse) übermittelt hat | Verarbeitung nur zum Übermittlungszweck und mit Geheimhaltung wie beim Leistungsträger; Aufträge der Leistungsträger selbst nur unter den Bedingungen des § 80 | § 78 Abs. 1, § 80 SGB X (Zehntes Buch Sozialgesetzbuch) |
| Gesundheitsdaten und weitere besondere Kategorien | Verarbeitung untersagt, soweit keine Ausnahme greift; bei umfangreicher Verarbeitung Folgenabschätzung | Art. 9 Abs. 1, Art. 35 Abs. 3 Buchst. b DSGVO; § 11, § 35 KDG; § 13, § 34 DSG-EKD |
| Angaben „ohne Namen“ | Namen und Anschriften zu entfernen genügt nicht, wenn sich die Person aus dem Zusammenhang erkennen lässt | DSK, Orientierungshilfe KI, Rn. 49 |
| Ausgaben über Personen in Entscheidungen | Private Konten: Die Nutzungsbedingungen von OpenAI untersagen, Ausgaben über eine Person für Entscheidungen mit rechtlicher oder erheblicher Wirkung zu verwenden. Unabhängig vom Konto gilt: Eine Entscheidung mit Rechtswirkung darf grundsätzlich nicht allein die KI treffen; die entscheidende Person braucht tatsächlichen Spielraum | Nutzungsbedingungen für Europa (Abschnitt Content); Art. 22 DSGVO; § 24 KDG; § 25a DSG-EKD; DSK, Rn. 12 |
Die Vertraulichkeitszusage von OpenAI für das eigene Personal (DPA Nr. 2.3) nennt § 203 StGB nicht. Ob sie die Verpflichtung ersetzt, für die Fachkräfte nach § 203 Abs. 4 StGB sorgen müssen, ist offen. Ratsam ist deshalb, die Verpflichtung ausdrücklich zu vereinbaren. Ob ein KI-Anbieter überhaupt mitwirkende Person sein kann, ordnet der Beitrag zur Schweigepflicht bei IT, Cloud und KI ein.
Ein freier Träger darf übermittelte Sozialdaten nur für den Übermittlungszweck verarbeiten und muss sie so geheim halten wie der Leistungsträger (§ 78 Abs. 1 SGB X). Den Stand dazu beschreibt der Beitrag zum Sozialdatenschutz bei freien Trägern.
Beauftragt ein Leistungsträger selbst einen Dienstleister mit Sozialdaten, muss er das vorher der Behörde anzeigen, die ihn rechtlich oder fachlich beaufsichtigt (§ 80 Abs. 1 SGB X). Die Verarbeitung muss im Inland, im EWR, in der Schweiz oder in einem Drittstaat mit Angemessenheitsbeschluss der EU-Kommission stattfinden, also bei festgestelltem angemessenem Schutzniveau (§ 80 Abs. 2 SGB X mit § 35 Abs. 7 des Ersten Buches Sozialgesetzbuch).
OpenAI nennt für Übermittlungen aus dem EWR heraus Standardvertragsklauseln (von der EU-Kommission vorformulierte Vertragsklauseln, Art. 46 Abs. 2 Buchst. c DSGVO) oder einen Angemessenheitsbeschluss (Art. 45 DSGVO), ohne zu sagen, was wann gilt (DPA Nr. 4.1); Standardvertragsklauseln allein nennt § 80 Abs. 2 nicht. Ob § 80 auch für freie Träger gilt, die Sozialdaten nur übermittelt bekommen haben, ist nicht gesichert; der Beitrag zu den Datenklassen führt die Frage ebenfalls als offen.
Was Aufsichtsbehörden zu ChatGPT gesagt haben
| Stelle und Datum | Aussage | Reichweite |
|---|---|---|
| DSK, Orientierungshilfe KI, 6. Mai 2024 | Bei offenen Systemen verlassen Eingaben den geschützten Bereich; Trainingsnutzung prüfen; interne Weisungen und dienstliche Konten | Handreichung für Verantwortliche, keine Freigabe eines Produkts |
| Hamburgischer Beauftragter für Datenschutz und Informationsfreiheit, Checkliste, 13. November 2023 | Keine personenbezogenen Daten eingeben, wenn sich der Anbieter die Verwendung für eigene Zwecke einräumen lässt | Stand November 2023. Die Checkliste nennt für den Trainingsausschluss teilweise ein gesondertes Vertragsmodell (Nr. 8) |
| Garante, Italien, Mitteilung vom 20. Dezember 2024 zum Beschluss vom 2. November 2024 | 15 Millionen Euro Bußgeld, unter anderem wegen fehlender Rechtsgrundlage für das Training; Verfahren zu fortdauernden Verstößen an die irische Aufsicht übermittelt | Das Gericht in Rom hat den Beschluss am 18. März 2026 aufgehoben (Urteil Nr. 4153/2026 nach Angabe der Aufsicht), weil nach der Gründung der irischen Niederlassung die irische Aufsicht zuständig sei (Zuständigkeit der federführenden Aufsicht, englisch One-Stop-Shop: eine Aufsicht für grenzüberschreitende Verarbeitung, Art. 56 DSGVO). Die Vorwürfe zur Sache hat es nicht entschieden; die Aufsicht hat den Beschluss vorläufig von ihrer Internetseite entfernt |
Keine dieser Stellen erklärt ChatGPT für soziale Träger oder für Sozialdaten für zulässig oder unzulässig. Eine Stellungnahme einer deutschen oder kirchlichen Aufsicht zu ChatGPT Business oder Enterprise ist in den ausgewerteten Quellen und einer ergänzenden Suche nicht aufgetaucht.
Acht Schritte bis zu einer Regel für ChatGPT
- Erheben Sie, wer ChatGPT schon nutzt. Fragen Sie ohne Schuldzuweisung nach Konto und Aufgabe. Muster für eine anonyme Kurzabfrage bietet der Beitrag Welche KI nutzt unser Team?
- Legen Sie die Datenregel fest. Welche Angaben in welches Konto dürfen, regeln Datenklassen; eine Vorlage zeigt der Beitrag Vier Datenklassen, drei Werkzeugarten.
- Entscheiden Sie über die Kontoart. Die DSK empfiehlt Konten und Geräte des Trägers statt privater Konten und Geräte (Rn. 41); gemeint ist ein Team- oder Unternehmenskonto, bei OpenAI Business oder Enterprise. Binden Sie die oder den Datenschutzbeauftragten in diese Entscheidung ein (Rn. 31). Für Angaben über Menschen kommen nur Konten mit Vertrag in Betracht; auch dort gilt das erst nach den Schritten 4 und 5.
- Lesen Sie den Vertrag und schließen Sie ihn ab. Die Dienstvereinbarung bezieht das DPA ein (Nr. 5.3); OpenAI bietet zusätzlich ein Formular, um es abzuschließen. Prüfen Sie vor dem Abschluss den Mindestinhalt nach Art. 28 Abs. 3 DSGVO (kirchlich § 29 KDG, § 30 DSG-EKD; mehr im Beitrag zum Auftragsverarbeitungsvertrag) und die Liste der weiteren Dienstleister von OpenAI (Unterauftragsverarbeiter). Gegen einen neu hinzukommenden Dienstleister können Sie binnen 30 Tagen nach der Mitteilung Widerspruch einlegen; bleibt er ungelöst, können beide Seiten die betroffenen Leistungen kündigen (DPA Nr. 2.9). Klären Sie außerdem die Löschung nach Vertragsende (binnen 30 Tagen, Dienstvereinbarung Nr. 11.3) und den Speicherort; vereinbaren Sie zudem eine ausdrückliche Verpflichtung nach § 203 Abs. 4 StGB.
- Bewerten Sie das Risiko vor dem Start. So rät es die DSK (Rn. 38 f.). Ergibt sich ein voraussichtlich hohes Risiko, folgt eine Datenschutz-Folgenabschätzung (Art. 35 Abs. 1 DSGVO; kirchlich § 35 Abs. 1 KDG, § 34 Abs. 1 DSG-EKD), bei der OpenAI Unterstützung zusagt (DPA Nr. 2.6). Die DSK hält sie beim Einsatz von KI vielfach für erforderlich; wie sie abläuft, zeigt der Beitrag zur Folgenabschätzung bei KI-Werkzeugen.
- Stellen Sie das Konto ein und halten Sie es fest. Entscheiden Sie über Training, Verlauf, Erinnerungen und Rückmeldungen anhand des Abschnitts „Was Einstellungen leisten und was nicht“. Notieren Sie Datum und Stand, damit sich Änderungen nach Updates nachvollziehen lassen.
- Beteiligen Sie die Interessenvertretung. Die Einführung technischer Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung zu überwachen, unterliegt der Mitbestimmung des Betriebsrats (§ 87 Abs. 1 Nr. 6 des Betriebsverfassungsgesetzes, BetrVG). Ein Konto des Trägers mit Verlauf und Einsicht der Administratoren dürfte dazu zählen. Bei katholischen Trägern sind die Mitarbeitervertretungen, bei evangelischen die Mitarbeitendenvertretungen, bei kommunalen Trägern in öffentlich-rechtlicher Form die Personalräte zu beteiligen; Einzelheiten und Begründung vergleicht der Beitrag zur Mitbestimmung bei KI.
- Regeln Sie, unterweisen Sie, prüfen Sie erneut. Halten Sie die Weisung schriftlich fest, mit Beispielen erlaubter und untersagter Nutzung (DSK, Rn. 36). Die Unterweisung kann eine Maßnahme zur KI-Kompetenz nach Art. 4 der KI-Verordnung (Verordnung (EU) 2024/1689) sein; was Art. 4 verlangt, beschreibt der Beitrag zu den Maßnahmen zur KI-Kompetenz. Prüfen Sie die Einstellungen neu, wenn OpenAI Bedingungen oder Funktionen ändert.
Meine Empfehlung
Ich würde ChatGPT erst freigeben, wenn Datenregel, Vertrag mit OpenAI und Einstellungen schriftlich vorliegen. Zunächst würde ich es nur für Aufgaben ohne Angaben über Menschen öffnen, etwa für Entwürfe von Informationsblättern, Leitbildtexten oder allgemeinen Elterninformationen. Das ist strenger als die Matrix im Beitrag zu den Datenklassen und als Einstieg gedacht. Gesundheits-, Beratungs- und Sozialdaten bleiben ausgeschlossen, bis Rechtsgrundlage, Verpflichtung nach § 203 StGB und gegebenenfalls die Folgenabschätzung für einen ersten Fall geprüft sind. Die Freigabe würde ich zurücknehmen, wenn OpenAI Vertrag oder Zusagen zum Training zum Nachteil des Trägers ändert.
Wie ein Träger Regeln, Rollen und Freigabeweg für KI festhält, beschreibt die Seite zur KI-Richtlinie.
Stand: 21. Oktober 2026. Geprüft sind die Bedingungen und Hilfeseiten von OpenAI, Gesetzestexte, die Orientierungshilfe der DSK vom 6. Mai 2024, die Checkliste aus Hamburg, die Mitteilung der italienischen Aufsicht und der Volltext des Urteils aus Rom (Fundort: Universität, nicht amtlich). Nicht ausgewertet sind die jüngeren Orientierungshilfen der DSK von Juni und Oktober 2025. Nicht festgestellt werden konnte, was Administratoren im Business-Tarif tatsächlich sehen, ob Werbung in Deutschland schon erscheint, welche Übermittlungsgrundlage OpenAI für Daten in den USA im Einzelfall nutzt und ob § 80 SGB X für freie Träger gilt. Die kirchlichen Fundstellen sind am KDG in der Fassung des Bistums Hildesheim (in Kraft seit 1. März 2026, geändert durch das 2. KDG-Änderungsgesetz vom 29. Juni 2026 mit Wirkung zum 1. August 2026, das nur § 37 Abs. 2 Satz 4 betrifft) und am DSG-EKD in der Fassung ab 1. Mai 2025 geprüft.
Fragen zu ChatGPT im Dienst
Darf ein Träger ChatGPT nutzen?
Eine allgemeine Freigabe oder Sperre für ChatGPT ist in den ausgewerteten Quellen nicht ersichtlich; es kommt auf Konto, Vertrag, Einstellungen und Daten an. Ohne Angaben über Menschen ist es eine Frage der Hausregel. Mit Angaben über betreute Menschen braucht der Träger Rechtsgrundlage, Vertrag und eine Prüfung der Schweigepflicht und der Regeln für übermittelte Sozialdaten.
Wie schaltet man das Training in ChatGPT aus?
In privaten Konten unter Einstellungen im Bereich Datenkontrollen die Option „Improve the model for everyone“ ausschalten; das gilt für neue Gespräche. In Business und Enterprise trainiert OpenAI nach eigenen Angaben standardmäßig nicht.
Gibt es für ChatGPT einen Auftragsverarbeitungsvertrag?
Für Business, Enterprise und die Programmierschnittstelle (API) bietet OpenAI einen Zusatz zur Datenverarbeitung an, für private Konten nennt OpenAI keinen. Ob dieser Vertrag mit seiner Vertraulichkeitszusage die Verpflichtung nach § 203 Abs. 4 StGB erfüllt, ist offen; ich würde die Verpflichtung ausdrücklich vereinbaren.
Wo speichert ChatGPT die Daten?
Bei privaten Konten auch auf Servern in den USA. Europa als Speicherregion bietet OpenAI nach der Hilfeseite für neue Enterprise- und Edu-Workspaces und für die API an; Business nennt die Seite nicht. Anmeldedaten, Abrechnung und Metadaten können außerhalb der gewählten Region liegen.
Was tun, wenn jemand Klientendaten in ein privates Konto eingegeben hat?
Das kann eine Verletzung des Schutzes personenbezogener Daten sein, die der Träger bewertet und bei Risiko für die Betroffenen unverzüglich, möglichst binnen 72 Stunden, der Aufsicht meldet (Art. 33 Abs. 1 DSGVO). Kirchliche Träger melden an die kirchliche Aufsicht: nach § 33 KDG unverzüglich und mit Begründung bei mehr als 72 Stunden, nach § 32 DSG-EKD unverzüglich bei voraussichtlich nicht unerheblichem Risiko, ohne Stundenzahl. Den Ablauf beschreibt der Beitrag zur Datenpanne in 72 Stunden.
Kann der Arbeitgeber ChatGPT-Chats der Beschäftigten sehen?
Bei einem privaten Konto ohne Verbindung zum Träger nicht. Wurde es mit der Dienst-E-Mail-Adresse angelegt und dem Geschäftskonto zugeordnet, kann der Administrator auf Inhalte zugreifen. In Business- und Enterprise-Konten beschreibt OpenAI den Umfang uneinheitlich.
Quellen
- OpenAI: EU-Datenschutzrichtlinie, Stand 24. August 2026, Abschnitte 2, 3, 4, 5, 9, 10 und 12. openai.com, abgerufen am 21. Oktober 2026.
- OpenAI: Nutzungsbedingungen für Europa, Stand 16. Januar 2026. openai.com, abgerufen am 21. Oktober 2026.
- OpenAI: Zusatz zur Datenverarbeitung (Data Processing Addendum), gültig ab 1. Januar 2026, Nr. 1.1, 2.1, 2.3, 2.5, 2.6, 2.7, 2.9, 3.1, 4.1 und Anhang 1. openai.com, abgerufen am 21. Oktober 2026.
- OpenAI: Dienstvereinbarung (Services Agreement), gültig ab 1. Januar 2026, Nr. 3.2, 4.2, 5.3, 11.3, 13.2, 14.2, 15 und 16.3. openai.com, abgerufen am 21. Oktober 2026.
- OpenAI: Enterprise-Datenschutz, Stand 8. Januar 2026. openai.com, abgerufen am 21. Oktober 2026.
- OpenAI Hilfecenter: Data controls in ChatGPT und How your data is used to improve model performance. Datenkontrollen und Modelltraining, abgerufen am 21. Oktober 2026.
- OpenAI Hilfecenter: Temporary chat in ChatGPT und Memory in ChatGPT. Temporärer Chat und Erinnerungen, abgerufen am 21. Oktober 2026.
- OpenAI Hilfecenter: ChatGPT Business: General FAQ, Managing data, sharing, and privacy in ChatGPT Business und Data retention when a member is removed from a workspace. Business-FAQ, Daten und Freigaben und Entfernen von Mitgliedern, abgerufen am 21. Oktober 2026.
- OpenAI Hilfecenter: What is ChatGPT Enterprise? und Data residency and inference residency for ChatGPT. Enterprise-Übersicht und Datenresidenz, abgerufen am 21. Oktober 2026.
- OpenAI Hilfecenter: Ads in ChatGPT. Werbung in ChatGPT, abgerufen am 21. Oktober 2026.
- Garante per la protezione dei dati personali: Pressemitteilung vom 20. Dezember 2024 mit Vermerk zum Urteil des Tribunale di Roma Nr. 4153/2026. garanteprivacy.it, abgerufen am 21. Oktober 2026.
- Tribunale di Roma, Sezione diritti della persona e immigrazione: Urteil R.G. 4785/2025 vom 18. März 2026 (nach Angabe der Aufsicht Nr. 4153/2026), Volltext auf einer Seite der Sapienza-Universität Rom, keine amtliche Fundstelle. Urteil als PDF, abgerufen am 21. Oktober 2026.
- Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK): Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 vom 6. Mai 2024, Rn. 12, 31, 36, 38, 39, 41 bis 43 und 49. datenschutzkonferenz-online.de, abgerufen am 21. Oktober 2026.
- Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK): Übersicht der Orientierungshilfen, Stand der Seite am Abruftag. datenschutzkonferenz-online.de, abgerufen am 21. Oktober 2026.
- Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit: Checkliste zum Einsatz LLM-basierter Chatbots, 13. November 2023. datenschutz-hamburg.de, abgerufen am 21. Oktober 2026.
- Europäisches Parlament und Rat: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 9, 22, 28, 33, 35, 45, 46 und 56. publications.europa.eu, abgerufen am 21. Oktober 2026.
- Europäisches Parlament und Rat: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27. Juli 2026, Art. 4. publications.europa.eu, abgerufen am 21. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Strafgesetzbuch, § 203. gesetze-im-internet.de, abgerufen am 21. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Zehntes Buch Sozialgesetzbuch, § 78 und § 80, sowie Erstes Buch Sozialgesetzbuch, § 35 Abs. 7. § 78, § 80 und SGB I § 35 auf gesetze-im-internet.de, abgerufen am 21. Oktober 2026.
- Bundesministerium der Justiz und für Verbraucherschutz: Betriebsverfassungsgesetz, § 87 Abs. 1 Nr. 6 und § 130. § 87 und § 130 auf gesetze-im-internet.de, abgerufen am 21. Oktober 2026.
- Verband der Diözesen Deutschlands: Gesetz über den Kirchlichen Datenschutz (KDG), Fassung des Beschlusses vom 24. November 2025, § 11, § 24, § 29, § 33 und § 35, in Kraft gesetzt durch das Bistum Hildesheim zum 1. März 2026. PDF des Bistums Hildesheim, abgerufen am 21. Oktober 2026.
- Bistum Hildesheim: 2. Gesetz zur Änderung des Gesetzes über den Kirchlichen Datenschutz (2. KDG-Änderungsgesetz) vom 29. Juni 2026, Kirchlicher Anzeiger für das Bistum Hildesheim Nr. 6/2026 vom 15. Juli 2026, S. 221. PDF des Bistums Hildesheim, abgerufen am 21. Oktober 2026.
- Evangelische Kirche in Deutschland: EKD-Datenschutzgesetz (DSG-EKD), Bekanntmachung der Neufassung vom 15. Januar 2025, § 13, § 25a, § 30, § 32 und § 34. kirchenrecht-ekd.de, abgerufen am 21. Oktober 2026.
Christian Monat
Ich bin externer Datenschutzbeauftragter mit IHK-Abschluss und seit 2019 in Team- und Einrichtungsleitung im Sozialwesen tätig. Hier schreibe ich über Datenschutz, Schweigepflicht und den geregelten Einsatz von KI in der Sozialen Arbeit und Pflege. Mehr über mich
Der Beitrag erklärt die Rechtslage und ersetzt keine Rechtsberatung im Einzelfall.
