Muss unser Chatbot als KI gekennzeichnet werden?

Wer ist Anbieter, wer Betreiber?

Art. 50 der KI-Verordnung (EU) 2024/1689, englisch AI Act, regelt die Transparenzpflichten. Welche davon den Träger treffen, hängt an seiner Rolle beim jeweiligen System. Diese Frage klärt die Geschäfts­führung zuerst.

Die Leitlinien der Europäischen Kommission zu Art. 50 vom 20. Juli 2026 (Rn. steht für Randnummer) legen die Vorschrift aus. Sie binden weder Behörden noch Gerichte, die Bundesnetzagentur nennt sie aber eine geeignete Orientierungshilfe.

Der Anbieter weist auf die KI hin (Hinweis, Abs. 1) und versieht erzeugte Inhalte mit einer für Programme auslesbaren Markierung (Abs. 2). Der Betreiber legt Deepfakes und bestimmte KI-Texte sichtbar offen (Kennzeichnung, Abs. 4) und informiert bei Emotionserkennung die Betroffenen (Abs. 3).

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, gegen Entgelt oder unentgeltlich (Art. 3 Nr. 3 KI-Verordnung).

Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet; ausgenommen ist nur die persönliche, nicht berufliche Nutzung (Art. 3 Nr. 4 KI-Verordnung).

Wer einen fertigen Chatbot einkauft und auf der eigenen Website einsetzt, ist nach diesen Definitionen Betreiber, Anbieter ist der Hersteller. Die Kommission nennt den Hersteller eines an berufliche Nutzer gelieferten Chatbots ausdrücklich als Anbieter (Leitlinien, Rn. 11); zur Rolle des einkaufenden Trägers sagt sie nichts Ausdrückliches. Anbieter wird der Träger, wenn er einen Chatbot selbst entwickelt oder entwickeln lässt und unter eigenem Namen einsetzt, ebenso, wenn er ein fremdes System etwa mit neuen Trainingsdaten verändert und unter eigenem Namen betreibt (Leitlinien, Abschnitt 2.3).

Unklar bleibt der zugekaufte Chatbot mit eigenem Logo, eigenen Anweisungen und eigener Oberfläche. Ob das schon „entwickeln lassen“ ist, beantworten die Leitlinien nicht. Die Regel, nach der ein Betreiber schon durch seinen Namen auf einem fremden Produkt zum Anbieter wird, gilt nur für Hochrisiko-Systeme (Art. 25 Abs. 1).

Entscheidend ist, wer bestimmt, ob und wie KI eingesetzt wird. Bedienen Beschäftigte oder Dienstleister das System im Auftrag des Trägers und unter dessen Verantwortung und Kontrolle, bleibt der Träger Betreiber (Rn. 14 und 19). Beauftragt er dagegen nur eine Agentur mit einem Ergebnis und legt weder fest noch kontrolliert, ob und wie sie KI einsetzt, ist er insoweit kein Betreiber (Rn. 14). Ob das auch für private KI-Konten gilt, die Beschäftigte eigenmächtig nutzen, haben die Leitlinien nicht ausdrücklich geklärt; dazu der Beitrag zu privaten KI-Konten.

Den Hinweis im Chatfenster schuldet in der Regel der Hersteller

Den Hinweis auf die KI schuldet der Anbieter. Er muss den Chatbot so bauen, dass Menschen erfahren, dass sie mit einem KI-System sprechen, außer das ist für eine verständige Person offensichtlich (Art. 50 Abs. 1). Diese Ausnahme legt die Kommission eng aus und nennt Chatbots in Onlineplattformen und Helpdesks ausdrücklich als Fall, in dem sie nicht trägt (Rn. 45). Ein allgemeiner Satz wie „Dienste auf dieser Website nutzen KI“ genügt nicht, ebenso wenig ein Hinweis nur in den Nutzungsbedingungen oder ein mehrdeutiger Name wie „Assistent“ (Rn. 34 bis 38).

Wenn der Hersteller keinen Hinweis vorsieht, sagt Art. 50 nicht, was der Träger tun muss; mögliche Folgen aus Verbraucher- oder Datenschutzrecht und aus dem Vertrag sind nicht geklärt. Es ist aber der Auftritt des Trägers und die Geschäfts­führung entscheidet, was online geht. Ich würde keinen Chatbot freigeben, der den Hinweis nicht selbst anzeigt.

Für ältere Systeme, die vor dem 2. August 2026 auf dem Markt waren, gilt für die Markierung erzeugter Inhalte eine Übergangsfrist bis zum 2. Dezember 2026. Für den Hinweis im Chat gilt sie nicht (Art. 111 Abs. 4; Leitlinien, Rn. 153).

Für Chatbots in sozialen Netzwerken und Messengern gilt dieselbe Rollenverteilung. Wer dort ein Konto mit automatisch erstellten Beiträgen betreibt, muss unter Umständen die Automatisierung nach § 18 Abs. 3 Medienstaatsvertrag (MStV) kenntlich machen, wenn das Konto wie das einer Person auftritt. Ob das einen KI-Chatbot eines Trägers erfasst, ist nicht geklärt.

Wie der Hinweis in Onlineberatung und Bewerbung aussehen muss

In der Onlineberatung gilt dieselbe Rollenverteilung wie beim Website-Chatbot. Auch die Form ist gleich: Die Information muss spätestens beim ersten Kontakt klar und eindeutig kommen und den geltenden Anforderungen an Barrierefreiheit entsprechen (Art. 50 Abs. 5). Sie gehört an eine Stelle, an der man sie nicht übersieht, mindestens einmal zu Beginn jeder Sitzung (Rn. 142 und 143). Wo Ratsuchende emotional belastet sind oder Gesundheitsfragen stellen, hält die Kommission wiederholte Hinweise für wahrscheinlich nötig, bei Kindern in kindgerechter Form (Rn. 40; Fußnote 40 zu Rn. 142).

Eigene Regeln zur Barrierefreiheit schafft Art. 50 nicht, er verweist auf das für den Träger geltende Recht (Rn. 144). Welche Regeln das sind, hängt vom Träger ab. Das Barrierefreiheitsstärkungsgesetz (BFSG) erfasst Dienstleistungen im elektronischen Geschäftsverkehr (Angebote im Netz, über die Verbraucher Verträge abschließen) und nimmt Kleinstunternehmen aus (§ 1 Abs. 3 Nr. 5, § 2 Nr. 26, § 3 Abs. 3 BFSG), § 12a Behindertengleichstellungsgesetz (BGG) bindet öffentliche Stellen des Bundes, für öffentliche Stellen der Länder und Kommunen kommt Landesrecht in Betracht. Die Zuordnung ist eine Einzelfrage.

Mischt ein System eigene KI-Antworten in den Verlauf, braucht jede davon den Hinweis, solange kein Mensch sie geprüft und selbst gesendet hat (Rn. 30).

Ein Chatbot, der Bewerbenden Fragen zur Stelle beantwortet, braucht denselben Hinweis. Sobald ein KI-System Bewerbungen sichtet, filtert oder bewertet, gilt es in der Regel als Hochrisiko-System, also als KI mit hohem Risiko, für die strengere Pflichten gelten (Anhang III Nr. 4 Buchst. a; Art. 6 Abs. 3 lässt Ausnahmen zu, wenn kein erhebliches Risiko besteht; bei Profiling natürlicher Personen gilt die Ausnahme nicht). Die Pflichten dafür greifen ab dem 2. Dezember 2027 und der Träger informiert die Bewerbenden dann zusätzlich selbst (Art. 26 Abs. 11, Art. 113). Was für Auswahlsysteme gilt, steht im Beitrag zur KI in der Personalauswahl.

Ist ein realistisches KI-Foto ein Deepfake?

Bei Bildern, Tönen und Videos steht der Träger selbst in der Pflicht, sobald der Inhalt ein Deepfake ist, ob auf der Website oder in sozialen Medien. Dann muss er offenlegen, dass der Inhalt künstlich erzeugt oder verändert wurde (Art. 50 Abs. 4 Unterabs. 1). Das gefälschte Video einer bekannten Person ist nur ein Beispiel. Erfasst ist jeder KI-Inhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt erscheinen würde (Art. 3 Nr. 60). Zu den Ereignissen zählt die Kommission ausdrücklich die Darstellung beruflicher Dienstleistungen. Es genügt, dass das Dargestellte so existieren könnte; eine reale Vorlage ist nicht nötig (Leitlinien, Rn. 113).

Damit wird das realistische KI-Foto einer Pflegekraft am Bett zur offenen Frage. Fotorealismus allein entscheidet nach der Kommission nicht; es zählen Botschaft, Umfeld und das zu erwartende Publikum, eine Täuschungsabsicht ist nicht nötig (Rn. 114). Erreicht der Auftritt vorhersehbar ältere Menschen oder Personen mit wenig Erfahrung im Umgang mit KI, kann schon deren Eindruck genügen (Rn. 115). Eine Einordnung solcher Bilder durch Behörden oder Gerichte ist mir nicht bekannt.

Kein Deepfake sind erkennbar gezeichnete oder fantastische Motive und kleine Bearbeitungen wie Farbkorrektur oder ein aus ästhetischen Gründen ersetzter Hintergrund (Rn. 113 und 116). Die unsichtbare Markierung, die der Hersteller des Bildgenerators einbetten muss, ersetzt die sichtbare Kennzeichnung nicht (Rn. 117).

Geprüfte Texte brauchen keine Kennzeichnung

Für Texte gilt die Kennzeichnung nur, wenn drei Merkmale zusammenkommen. Der Text wird veröffentlicht, er soll die Öffentlichkeit informieren und er betrifft eine Angelegenheit von öffentlichem Interesse (Art. 50 Abs. 4 Unterabs. 2). Zu diesen Angelegenheiten zählt die Kommission unter anderem öffentliche Dienstleistungen und öffentliche Gesundheit (Leitlinien, Rn. 131). Ein Fachartikel eines Pflegedienstes zu Leistungen der Pflegeversicherung kann deshalb erfasst sein.

Die Pflicht entfällt, wenn zwei Bedingungen zusammen erfüllt sind. Ein Mensch prüft den Text inhaltlich, mindestens die Fakten. Außerdem trägt eine benannte Person oder Stelle die redaktionelle Verantwortung; Name oder Funktion und Kontakt sollen leicht auffindbar sein, etwa in den Rechtshinweisen der Website (Rn. 134 bis 138). Eine rein formale Durchsicht, die Rechtschreibkontrolle oder eine Redaktionsrichtlinie ohne tatsächliche Prüfung genügen nicht (Rn. 135). Überarbeitet eine KI den Text nach der Freigabe noch einmal wesentlich, fällt die Ausnahme weg (Rn. 136).

Mit einem klaren Freigabeweg entfällt die Kennzeichnung. Die Fachkraft prüft Inhalt und Fakten, die Leitung der Öffentlichkeitsarbeit zeichnet verantwortlich, ihre Funktion steht auf der Website. Was beim Entwerfen mit Copilot sonst zu regeln ist, steht im Beitrag zu Microsoft 365 Copilot.

Emotionserkennung am Arbeitsplatz ist verboten

Emotionserkennung meint Systeme, die aus Gesicht, Stimme oder anderen biometrischen Daten auf Gefühle oder Absichten schließen (Art. 3 Nr. 39). Am Arbeitsplatz und in Bildungseinrichtungen ist ihr Einsatz seit dem 2. Februar 2025 verboten, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f). Nach den Leitlinien der Kommission zu verbotenen Praktiken, die ebenfalls nicht verbindlich sind, gilt das Verbot auch im Bewerbungsverfahren (Rn. 254). Außerhalb dieser Bereiche gelten solche Systeme als Hochrisiko-KI, soweit ihr Einsatz überhaupt zulässig ist; die Pflichten dafür greifen ab dem 2. Dezember 2027 (Anhang III Nr. 1 Buchst. c). Schon jetzt muss der Träger als Betreiber die Betroffenen über den Betrieb informieren und die Datenschutz-Grundverordnung (DSGVO) einhalten (Art. 50 Abs. 3).

Wann Art. 50 nicht greift

Diese Fälle liegen außerhalb von Art. 50.

• Antwortautomaten ohne KI, etwa eine Abwesenheitsnotiz oder fest hinterlegte Schnellantworten (Leitlinien, Rn. 30).
• KI als Hilfsmittel im Hintergrund: Die Fachkraft lässt sich einen Entwurf vorschlagen, prüft ihn und sendet selbst (Rn. 30).
• Interne Texte, etwa im Intranet, Briefe an einzelne Personen und Chatbot-Antworten, die nur die fragende Person sieht. Sie gelten nicht als veröffentlicht (Rn. 131 und die dortigen Beispiele).
• Werbe- und Angebotstexte ohne Aussagen etwa zu Gesundheit oder Sicherheit (Beispiele nach Rn. 131).
• Inhalte, die vor dem 2. August 2026 erzeugt und veröffentlicht wurden. Ein älterer KI-Text, der erst jetzt erscheint, ist dagegen erfasst (Rn. 154).

Informationspflichten aus Datenschutz- und Verbraucherrecht gelten neben Art. 50 weiter, der KI-Hinweis im Chatfenster ersetzt also nicht die Datenschutzhinweise (Art. 50 Abs. 6; Leitlinien, Rn. 50 und 52).

Was der Träger beim Anbieter des Chatbots prüft

Weil die Hauptpflicht beim Hersteller liegt, gehört sie in Auswahl und Vertrag.

• Hinweis im Fenster. Der Chatbot zeigt vor der ersten Nachricht gut sichtbar und in einfacher Sprache, dass eine KI antwortet.
• Anpassbarkeit. Der Hinweis lässt sich im Verlauf wiederholen, für Kinder vereinfachen und mit Bildschirmleser und Tastatur erreichen.
• Rolle im Vertrag. Der Vertrag benennt, wer Anbieter im Sinne der KI-Verordnung ist, gerade bei Lösungen unter dem Namen des Trägers.
• Markierung erzeugter Inhalte. Erzeugt das System Bilder oder Texte, markiert der Hersteller sie maschinenlesbar; für ältere Systeme spätestens ab dem 2. Dezember 2026 (Art. 111 Abs. 4).
• Daten. Der Hersteller legt offen, welche Eingaben an ihn gehen, wo sie verarbeitet werden und ob sie zum Training dienen. Welche Daten in welches Werkzeug dürfen, ordnet die Vorlage zu Datenklassen.

Aufsicht und Bußgeld bis 15 Millionen Euro

Zuständig ist seit dem 29. Juli 2026 grundsätzlich die Bundesnetzagentur, für öffentliche Stellen der Länder und Kommunen eine Behörde nach Landesrecht (§ 2 Abs. 1 und 6 KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz, KI-MIG). Beschweren kann sich jede Person, die einen Verstoß vermutet, ohne Frist über das Onlineformular der zentralen Beschwerdestelle der Bundesnetzagentur.

Verstöße gegen Art. 50 können mit Geldbußen von bis zu 15 Millionen Euro oder, bei Unternehmen, bis zu 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen (KMU) und kleine Unternehmen mit mittlerer Kapitalisierung (kleine Midcap-Unternehmen) gilt der niedrigere Betrag (Art. 99 Abs. 4, 6 und 6a). Ob gemeinnützige Träger dabei als Unternehmen zählen, ist nicht ausgelegt. Gegen Behörden und öffentliche Stellen von Bund, Ländern und Kommunen verhängt die Aufsicht keine Geldbußen (§ 17 Abs. 2 KI-MIG); kirchliche Körperschaften ordnet das Gesetz nicht ausdrücklich ein.

Die Kommission nimmt die Leitlinien förmlich erst an, wenn alle Sprachfassungen vorliegen; ob das bis zum 8. Oktober 2026 geschehen ist, ließ sich nicht klären. Der freiwillige Verhaltenskodex vom 10. Juni 2026 betrifft nur Markierung und Kennzeichnung nach Abs. 2, 4 und 5, nicht den Chatbot-Hinweis nach Abs. 1. Kommission und KI-Gremium haben ihn im Juli 2026 für angemessen erklärt. Wer ihn unterzeichnet, kann damit die Einhaltung darlegen, ein abschließender Nachweis ist es nicht (Leitlinien, Rn. 146 bis 149).

Welche Pflicht in welcher Lage greift

• Fertiger Chatbot eines Herstellers. Der Hersteller schuldet den Hinweis, der Träger prüft ihn vor der Freigabe und lässt die Rolle im Vertrag benennen.
• Chatbot unter eigenem Namen. Wer ihn selbst entwickelt oder entwickeln lässt, ist Anbieter. Bei einem zugekauften Chatbot mit eigenem Logo würde ich vorsorglich so planen.
• Eigene Bilder und Texte. Der Träger ist Betreiber. Geprüfte und verantwortete Texte brauchen keine Kennzeichnung, realistische KI-Bilder vorsorglich einen Hinweis.

Vier Auslegungsfragen sind offen.

• Ob ein zugekaufter Chatbot unter eigenem Namen den Träger zum Anbieter macht.
• Ob realistische KI-Fotos aus Pflege und Beratung Deepfakes sind.
• Wo bei Texten die Grenze zwischen Angebotsbeschreibung und Information über Angelegenheiten von öffentlichem Interesse verläuft.
• Wann ein Auskunfts-Chatbot für Bewerbende zum Auswahlsystem wird.

Wer Chatbot, Bild- und Textwerkzeuge einsetzt, ergreift außerdem Maßnahmen zur KI-Kompetenz nach Art. 4 für Redaktion und Beratung; Schulungen sind eine mögliche Maßnahme. Was das umfasst, steht im Beitrag zur KI-Kompetenz nach Art. 4, die Termine bis 2028 sammelt der Fristenkalender. Eine Kennzeichnungsregel und ein Freigabeweg für den Außenauftritt gehören in die KI-Richtlinie des Trägers.

Fragen aus der Öffentlichkeitsarbeit

Quellen

1. Europäische Union: Verordnung (EU) 2024/1689 (KI-Verordnung) in der Fassung vom 27. Juli 2026, Art. 3 Nr. 3, 4, 39 und 60, Art. 4, 5, 6, 25, 26, 50, 99, 111 und 113, Anhang III (konsolidierte, nicht rechtsverbindliche Fassung). EUR-Lex, abgerufen am 8. Oktober 2026.
2. Europäische Union: Verordnung (EU) 2026/1744 vom 8. Juli 2026 zur Änderung der Verordnung (EU) 2024/1689 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24. Juli 2026, Art. 1 Nr. 5, 20 und 39, Art. 4. EUR-Lex, abgerufen am 8. Oktober 2026.
3. Europäische Kommission: Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689, Anhang zu C(2026) 5054 vom 20. Juli 2026, Abschnitt 2.3, Rn. 10 bis 155. PDF der Kommission, abgerufen am 8. Oktober 2026.
4. Europäische Kommission: Communication to the Commission, Approval of the content of the draft Communication from the Commission, Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50, C(2026) 5054 final vom 20. Juli 2026. PDF der Kommission, abgerufen am 8. Oktober 2026.
5. Europäische Kommission: Guidelines on transparency obligations for providers and deployers of AI systems, Seite zur Veröffentlichung vom 20. Juli 2026. digital-strategy.ec.europa.eu, abgerufen am 8. Oktober 2026.
6. Europäische Kommission: Code of Practice on Transparency of AI-generated Content, Seite mit Zeitleiste, Aufbau und Hinweis zur Freiwilligkeit. digital-strategy.ec.europa.eu, abgerufen am 8. Oktober 2026.
7. Europäische Kommission: Commission opinion on the assessment of the Code of Practice on Transparency of AI-generated Content, veröffentlicht am 9. Juli 2026. digital-strategy.ec.europa.eu, abgerufen am 8. Oktober 2026.
8. Europäische Kommission: Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 5052 final vom 29. Juli 2025, Rn. 254. PDF der Kommission, abgerufen am 8. Oktober 2026.
9. Bundesnetzagentur: Leitlinie zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen, KI-Service Desk. bundesnetzagentur.de, abgerufen am 8. Oktober 2026.
10. Bundesnetzagentur: Akteure und Pflichten, KI-Service Desk. bundesnetzagentur.de, abgerufen am 8. Oktober 2026.
11. Bundesnetzagentur: Beschwerdestelle, KI-Service Desk. bundesnetzagentur.de, abgerufen am 8. Oktober 2026.
12. Bundesministerium der Justiz und für Verbraucherschutz: Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) vom 22. Juli 2026, BGBl. 2026 I Nr. 223, § 2 und § 17. gesetze-im-internet.de, abgerufen am 8. Oktober 2026.
13. Bundesministerium der Justiz und für Verbraucherschutz: § 2 Bundes­datenschutz­gesetz (Begriffsbestimmungen). gesetze-im-internet.de, abgerufen am 8. Oktober 2026.
14. Länder der Bundesrepublik Deutschland: Medienstaatsvertrag (MStV), § 18 Abs. 3, Fassung des Siebten Medienänderungsstaatsvertrags, in Kraft seit 1. Dezember 2025 (nichtamtliche Textfassung der Medienanstalten). die-medienanstalten.de, abgerufen am 8. Oktober 2026.
15. Bundesministerium der Justiz und für Verbraucherschutz: Barrierefreiheitsstärkungsgesetz (BFSG), § 1 Abs. 3, § 2 Nr. 26, § 3 Abs. 3. gesetze-im-internet.de, abgerufen am 8. Oktober 2026.
16. Bundesministerium der Justiz und für Verbraucherschutz: Behindertengleichstellungsgesetz (BGG), § 12a Barrierefreie Informationstechnik. gesetze-im-internet.de, abgerufen am 8. Oktober 2026.

Christian Monat

Ich bin externer Datenschutz­beauftragter mit IHK-Abschluss und seit 2019 in Team- und Einrichtungsleitung im Sozialwesen tätig. Hier schreibe ich über Datenschutz, Schweigepflicht und den geregelten Einsatz von KI in der Sozialen Arbeit und Pflege. Mehr über mich

Der Beitrag erklärt die Rechtslage und ersetzt keine Rechtsberatung im Einzelfall.