Kurzantwort:
Eine allgemeine sichtbare Kennzeichnungspflicht für jeden KI-unterstützten Unternehmenstext lässt sich aus Artikel 50 des AI Acts nicht ableiten.
Für Betreiber eines KI-Systems wird die Offenlegung bei Texten insbesondere dann relevant, wenn ein KI-generierter oder manipulierter Text veröffentlicht wird, die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informieren soll und keine ausreichende menschliche Überprüfung oder redaktionelle Kontrolle mit redaktioneller Verantwortung stattgefunden hat.
Davon zu unterscheiden sind technische Pflichten der Anbieter generativer KI-Systeme zur maschinenlesbaren Kennzeichnung bestimmter Ausgaben.
Seit wann gelten die Transparenzpflichten?
Artikel 50 des AI Acts gilt seit dem 2. August 2026. Seit diesem Zeitpunkt müssen Anbieter und Betreiber die jeweils für sie einschlägigen Transparenzpflichten beachten.
Eine begrenzte Übergangsfrist betrifft nach der aktuellen konsolidierten Fassung Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden. Für die technische Kennzeichnungs- und Erkennungspflicht der Anbieter nach Artikel 50 Absatz 2 läuft diese Frist bis zum 2. Dezember 2026.
Nach den Erläuterungen der Europäischen Kommission müssen Inhalte, die vor dem 2. August 2026 erzeugt wurden, nicht rückwirkend gekennzeichnet werden. Eine freiwillige Transparenzinformation kann dennoch sinnvoll sein.
Zuerst unterscheiden: Anbieter oder Betreiber?
Der AI Act verteilt die Pflichten nicht pauschal auf alle Beteiligten. Entscheidend ist zunächst die jeweilige Rolle.
| Rolle | Vereinfacht beschrieben | Für Artikel 50 besonders relevant |
|---|---|---|
| Anbieter | Entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Marke auf den Markt beziehungsweise in Betrieb. | Gestaltung des Systems, Information bei direkter KI-Interaktion und maschinenlesbare Kennzeichnung synthetischer Ausgaben. |
| Betreiber | Nutzt ein KI-System im beruflichen oder betrieblichen Verantwortungsbereich. | Offenlegung bei bestimmten Deepfakes, bestimmten Textveröffentlichungen sowie bei weiteren ausdrücklich geregelten Einsatzarten. |
Ein Unternehmen, das einen externen KI-Dienst für seine Contentproduktion einsetzt, ist in diesem Zusammenhang typischerweise als Betreiber des eingesetzten Systems zu betrachten. Je nach technischer Gestaltung und eigenem Auftreten können Rollen im Einzelfall jedoch anders verteilt sein.
Welche Transparenzpflichten enthält Artikel 50?
Artikel 50 regelt mehrere unterschiedliche Situationen:
- Menschen sollen informiert werden, wenn sie direkt mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist.
- Anbieter generativer Systeme müssen bestimmte synthetische Audio-, Bild-, Video- oder Textausgaben maschinenlesbar kennzeichnen und als künstlich erzeugt oder manipuliert erkennbar machen.
- Betreiber bestimmter Systeme zur Emotionserkennung oder biometrischen Kategorisierung müssen betroffene Personen informieren.
- Betreiber müssen bestimmte Deepfakes offenlegen.
- Betreiber müssen bestimmte KI-generierte oder manipulierte Texte zu Angelegenheiten von öffentlichem Interesse offenlegen.
Diese Pflichten sollten nicht miteinander vermischt werden. Eine technische maschinenlesbare Kennzeichnung durch einen Systemanbieter ist beispielsweise nicht dasselbe wie ein für Leser sichtbarer Hinweis durch den veröffentlichenden Betreiber.
Nicht jeder KI-Text fällt unter die Offenlegungspflicht
Für die textbezogene Pflicht des Betreibers nennt die Europäische Kommission drei zentrale Voraussetzungen. Der Text muss:
- veröffentlicht werden,
- die Öffentlichkeit informieren sollen,
- und eine Angelegenheit von öffentlichem Interesse betreffen.
Erst wenn diese Voraussetzungen erfüllt sind, stellt sich für den Betreiber die weitere Frage, ob eine Offenlegung erforderlich ist oder die Ausnahme für menschlich beziehungsweise redaktionell kontrollierte Inhalte greift.
Was sind Angelegenheiten von öffentlichem Interesse?
Die Kommissionsleitlinien nennen hierfür unter anderem Themen aus folgenden Bereichen:
- Politik und demokratische Prozesse,
- öffentliche Verwaltung und öffentliche Dienstleistungen,
- Rechtspflege und Strafverfolgung,
- Grundrechte,
- öffentliche Sicherheit,
- öffentliche Gesundheit,
- Umweltschutz,
- Verbrauchersicherheit,
- sowie wirtschaftliche, finanzielle, politische, wissenschaftliche oder kulturelle Entwicklungen, die Gegenstand einer öffentlichen Debatte sein können.
Nicht jede gewöhnliche Produktbeschreibung, Leistungsseite oder Unternehmensmeldung ist deshalb automatisch ein Text über eine Angelegenheit von öffentlichem Interesse. Umgekehrt können vermeintlich kommerzielle Inhalte durchaus öffentliche Belange berühren, etwa bei Gesundheit, Verbraucherinformationen, Finanzthemen oder gesellschaftlich relevanten Sachfragen.
Die Einordnung hängt vom konkreten Text, seinem Zweck und dem Veröffentlichungskontext ab.
Wann kann die Offenlegungspflicht entfallen?
Artikel 50 Absatz 4 sieht eine wichtige Ausnahme vor: Die Offenlegungspflicht für solche Texte greift nicht, wenn der KI-generierte Inhalt einen Prozess menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Beide Ebenen sollten voneinander unterschieden werden:
- Der Inhalt wird substanziell geprüft beziehungsweise redaktionell kontrolliert.
- Eine identifizierbare Person oder Organisation übernimmt die redaktionelle Verantwortung für die Veröffentlichung.
Was gilt als menschliche Überprüfung?
Nach den Erläuterungen der Europäischen Kommission bedeutet menschliche Überprüfung eine bewusste inhaltliche Prüfung durch eine oder mehrere natürliche Personen mit relevantem Fachwissen und professionellem Urteilsvermögen.
Dazu kann beispielsweise gehören:
- Tatsachen und fachliche Aussagen zu kontrollieren,
- verwendete Quellen auf Vertrauenswürdigkeit zu prüfen,
- Schlussfolgerungen zu hinterfragen,
- wesentliche Aussagen zu ändern oder zu entfernen,
- und zu entscheiden, ob der Inhalt überhaupt veröffentlicht werden darf.
Eine oberflächliche Rechtschreibprüfung, Grammatikprüfung oder rein formale Freigabe reicht nach den Kommissionsleitlinien dagegen nicht als menschliche Überprüfung oder redaktionelle Kontrolle aus.
Was bedeutet redaktionelle Kontrolle?
Redaktionelle Kontrolle setzt nach den Leitlinien voraus, dass eine verantwortliche redaktionelle Stelle den Inhalt tatsächlich freigeben, verändern oder aus sachlichen Gründen ablehnen kann.
Eine Person, die einen KI-Text lediglich kopiert und technisch veröffentlicht, übt dadurch noch keine belastbare inhaltliche Kontrolle aus.
Ein dokumentierter Redaktionsprozess kann dagegen zeigen, wer den Entwurf geprüft, Quellen kontrolliert, Änderungen veranlasst und die Veröffentlichung freigegeben hat.
Was bedeutet redaktionelle Verantwortung?
Redaktionelle Verantwortung bedeutet, dass eine natürliche oder juristische Person letztlich die rechtliche Verantwortung für die Veröffentlichung übernimmt.
Der Hinweis, dass ein Sprachmodell den Entwurf erzeugt hat, verschiebt diese Verantwortung nicht automatisch auf den KI-Anbieter.
Unternehmen sollten deshalb intern festlegen, wer für die fachliche Prüfung, Freigabe, Veröffentlichung und spätere Aktualisierung eines Inhalts verantwortlich ist.
Typische Unternehmenssituationen
| Situation | Einordnung |
|---|---|
| KI-Entwurf für eine gewöhnliche Leistungsseite, anschließend fachlich und redaktionell geprüft | Keine pauschale Kennzeichnungspflicht allein wegen der KI-Unterstützung. Zusätzlich ist zu prüfen, ob überhaupt eine Angelegenheit von öffentlichem Interesse betroffen ist. |
| Ungeprüfter KI-Text über öffentliche Gesundheit, Verbraucher- oder Finanzthemen | Die Voraussetzungen des Artikel 50 Absatz 4 können erfüllt sein. Eine klare Offenlegung ist dann besonders sorgfältig zu prüfen. |
| KI-generierter Text zu einem öffentlichen Thema mit substanzieller Fachprüfung und verantwortlicher redaktioneller Freigabe | Die Ausnahme für menschliche Überprüfung oder redaktionelle Kontrolle kann greifen, wenn zusätzlich redaktionelle Verantwortung besteht. |
| Chatbot kommuniziert direkt mit Websitebesuchern | Das ist eine andere Transparenzfrage. Artikel 50 Absatz 1 regelt die Information über direkte Interaktion mit einem KI-System. |
| KI-generiertes oder manipuliertes Bild, Audio oder Video | Hier können die Regeln zu Deepfakes oder zur maschinenlesbaren Kennzeichnung einschlägig sein. Die Textregel allein reicht für die Prüfung nicht aus. |
Maschinenlesbare Kennzeichnung ist nicht dasselbe wie ein sichtbarer Hinweis
Artikel 50 Absatz 2 richtet sich insbesondere an Anbieter generativer KI-Systeme. Diese sollen Ausgaben in einem maschinenlesbaren Format kennzeichnen und technisch erkennbar machen.
Ein maschinenlesbares Signal kann etwa durch geeignete technische Markierungs- oder Herkunftsverfahren umgesetzt werden. Diese technische Ebene ersetzt nicht automatisch eine Offenlegung, die ein Betreiber gegenüber den betroffenen Menschen klar und wahrnehmbar vornehmen muss.
Wie muss eine erforderliche Offenlegung erfolgen?
Die Information muss klar und unterscheidbar sein und spätestens beim ersten Kontakt beziehungsweise bei der ersten Wahrnehmung des Inhalts erfolgen. Außerdem sind die geltenden Anforderungen an Barrierefreiheit zu beachten.
Artikel 50 schreibt nicht für jede Situation einen einzigen universellen deutschen Hinweissatz vor. Die konkrete Form muss zum Medium, zur Art des Inhalts und zum Nutzungskontext passen.
Ein im Impressum versteckter allgemeiner Satz kann deshalb eine erforderliche Offenlegung direkt am betroffenen Inhalt nicht ohne Weiteres ersetzen.
Müssen ältere KI-Texte nachträglich gekennzeichnet werden?
Nach den Fragen und Antworten der Europäischen Kommission müssen Inhalte, die vor dem 2. August 2026 erzeugt wurden, nicht rückwirkend gekennzeichnet werden.
Die Kommission empfiehlt jedoch eine freiwillige Kennzeichnung, wenn dies praktisch möglich und für die Transparenz hilfreich ist.
Unabhängig davon können spätere Änderungen, eine erneute Veröffentlichung oder andere Rechtsgrundlagen eine neue Prüfung erforderlich machen.
Google-Regeln und AI Act sind zwei verschiedene Prüfungen
Ob Google KI-generierte Inhalte grundsätzlich indexieren oder bewerten kann, beantwortet nicht die gesetzliche Frage nach einer Transparenzpflicht.
Google stellt bei Website-Inhalten insbesondere auf Qualität, Richtigkeit, Relevanz und Nutzermehrwert ab. Der AI Act regelt dagegen bestimmte Rollen und Transparenzpflichten für KI-Systeme und ihre Verwendung.
Zur SEO-Einordnung: KI-Texte für SEO – sind sie bei Google erlaubt?
Datenschutz bleibt eine eigenständige Prüfung
Eine Kennzeichnung beantwortet nicht die Frage, ob Daten rechtmäßig in einen KI-Dienst eingegeben oder dort verarbeitet werden dürfen.
Sobald Kunden-, Personen- oder vertrauliche Unternehmensdaten betroffen sind, müssen Datenschutz, Vertraulichkeit, Vertragsbedingungen und betriebliche Vorgaben zusätzlich geprüft werden.
Dazu: Darf ich Kundendaten in ChatGPT eingeben?
Praktischer Prüfprozess vor der Veröffentlichung
- Welche Rolle hat das Unternehmen: Anbieter, Betreiber oder möglicherweise beides?
- Wurde der Text durch ein KI-System erzeugt oder inhaltlich manipuliert?
- Wird der Text veröffentlicht?
- Soll er die Öffentlichkeit informieren?
- Betrifft er eine Angelegenheit von öffentlichem Interesse?
- Wurde der Inhalt substanziell durch fachkundige Menschen geprüft?
- Gab es eine Stelle mit tatsächlicher Befugnis zur Änderung, Ablehnung und Freigabe?
- Wer übernimmt die redaktionelle Verantwortung?
- Ist eine erforderliche Information klar, wahrnehmbar und barrierefrei platziert?
- Sind zusätzlich Datenschutz, Urheberrecht, Wettbewerbsrecht oder branchenspezifische Regeln zu beachten?
Einen nachvollziehbaren KI-Redaktionsprozess dokumentieren
Unabhängig von einer konkreten Kennzeichnungspflicht ist es für Unternehmen sinnvoll, den eigenen Prozess nachvollziehbar zu organisieren.
Dazu können gehören:
- Zweck und eingesetztes KI-System,
- verantwortliche Redakteure oder Fachprüfer,
- kontrollierte Fakten und Quellen,
- wesentliche menschliche Änderungen,
- Freigabedatum und verantwortliche Stelle,
- sowie die Entscheidung, ob und wie ein KI-Hinweis erfolgt.
Eine solche Dokumentation ersetzt keine rechtliche Prüfung, erleichtert aber die interne Verantwortungszuordnung und Qualitätssicherung.
Fazit
Der AI Act verlangt keine pauschale sichtbare Kennzeichnung jedes Textes, an dessen Erstellung generative KI beteiligt war.
Für veröffentlichte Texte kommt es insbesondere darauf an, ob sie die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informieren sollen und ob eine substanzielle menschliche Überprüfung oder redaktionelle Kontrolle mit redaktioneller Verantwortung stattgefunden hat.
Unternehmen sollten deshalb nicht nur über einen sichtbaren Hinweis entscheiden, sondern einen belastbaren Prüf- und Freigabeprozess festlegen.
Dieser Beitrag bietet eine allgemeine Orientierung zum aktuellen Regelungsstand. Er ersetzt keine Rechtsberatung für einen konkreten Einzelfall.
Offizielle Quellen zum AI Act
Die Einordnung stützt sich auf die aktuelle konsolidierte Fassung des AI Acts sowie die Leitlinien und Fragen und Antworten der Europäischen Kommission zu Artikel 50.
EUR-Lex: konsolidierte Fassung der Verordnung über künstliche Intelligenz
Europäische Kommission: Leitlinien zu den Transparenzpflichten nach Artikel 50
Europäische Kommission: Fragen und Antworten zu Artikel 50
Quellen und redaktioneller Maßstab von SEOIO Wissen
Die Europäische Union und ihre Institutionen stehen in keiner geschäftlichen Verbindung zu SEOIO. Die Bezeichnungen werden ausschließlich zur sachlichen Quellenangabe verwendet.