Muss man sagen, dass ein Text von einer KI geschrieben wurde?

Muss man angeben, dass ein Text von einer KI geschrieben wurde, unter einem Artikel, einer Produktseite oder einer Kundenantwort? Die einen sehen darin eine Pflicht zur Transparenz, die anderen ein belangloses Detail der Herstellung. Das europäische Recht gibt keiner der beiden Seiten ganz recht: Es schreibt den Hinweis in bestimmten genauen Fällen vor und verzichtet darauf, wenn ein Mensch den Text geprüft hat und die Verantwortung dafür übernimmt.

Für ein Unternehmen, das mit Hilfe von KI veröffentlicht, ist die Frage sehr konkret: welche Inhalte zu kennzeichnen sind und wie man beweist, dass eine Person die übrigen geprüft hat.

Kurz gesagt

• Die Transparenzpflichten von Artikel 50 gelten seit dem 2. August 2026; die technische Kennzeichnung obliegt den Anbietern der Werkzeuge, nicht den Unternehmen, die sie nutzen.
• Eine Produktseite oder eine Werbe-E-Mail fällt in der Regel nicht unter den Pflichthinweis, unterliegt aber weiterhin den Regeln gegen irreführende Praktiken.
• Für Google verstößt eine angemessene Nutzung von KI nicht gegen seine Richtlinien, und ein Hinweis ist nützlich, wenn sich der Leser fragen könnte, wie der Inhalt entstanden ist.
• Für ein Unternehmen zählt vor allem, zeigen zu können, wer geprüft hat, an welchem Datum und wer unterzeichnet.

Position 1: Der Leser hat das Recht, es zu wissen

Das Argument der Transparenz beruht auf Vertrauen. Ein Leser liest ein Erfahrungszeugnis, eine gezeichnete Analyse oder einen von einer Maschine in Serie produzierten Text nicht auf dieselbe Weise. Erfährt er im Nachhinein, dass ein Artikel, den er für das Werk eines Experten hielt, generiert wurde, fühlt er sich getäuscht und zweifelt danach an allem, was dieselbe Quelle veröffentlicht.

Die Befürworter dieser Position fügen ein grundsätzliches Argument hinzu: Ein Sprachmodell kann einen Fehler mit Selbstsicherheit behaupten. Zu wissen, dass ein Text generiert ist, lädt dazu ein, ihn vorsichtiger zu lesen, genau so, wie man eine anonyme Quelle anders liest. Wir kommen auf dieses Risiko in unserer Analyse zu KI und Desinformation zurück.

Position 2: Ein Text zählt durch das, was er sagt, nicht durch die Art, wie er entstand

Das andere Lager erinnert daran, dass niemand angibt, eine Rechtschreibprüfung, eine Übersetzungssoftware oder die Hilfe eines Redakteurs genutzt zu haben. Zwischen „die KI hat den ganzen Text geschrieben“ und „die KI hat zwei Sätze umformuliert“ ist die Grenze unscharf, und ein systematischer Hinweis würde am Ende überall erscheinen und damit nichts mehr aussagen.

Dieses Lager betont auch eine Fehlwirkung: Ein Hinweis „von KI generiert“ kann dazu führen, dass ein richtiger und genauer Text abgelehnt wird, während ein falscher, von Hand geschriebener Text ohne Etikett durchgeht. Die Richtigkeit hängt nicht vom Werkzeug ab, sondern von der Prüfarbeit.

Was die europäische Verordnung sagt

Artikel 50 der europäischen KI-Verordnung behandelt genau diese Transparenzpflichten. Drei Punkte sind festzuhalten, beginnend mit den Deepfakes.

Deepfakes werden immer gekennzeichnet. Die Betreiber, also die Profis, die das System nutzen, das sie erzeugt, müssen angeben, dass der Inhalt von einer KI erzeugt oder manipuliert wurde. Bei einem offenkundig künstlerischen, satirischen oder fiktionalen Werk beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte offenzulegen, auf eine Weise, die das Werk nicht beeinträchtigt.

Texte von öffentlichem Interesse, außer bei menschlicher Prüfung. Die Betreiber eines Systems, das Texte erzeugt oder manipuliert, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen angeben, dass der Text von einer KI erzeugt oder manipuliert wurde. Die Pflicht entfällt jedoch, wenn der von der KI erzeugte Inhalt einer menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Die technische Kennzeichnung, auf Seiten der Anbieter. Die Anbieter von Systemen, die Text, Bilder, Ton oder Video erzeugen, müssen ihre Ausgaben in einem maschinenlesbaren Format kennzeichnen, damit sie als generiert erkennbar sind. Diese Pflicht trifft nicht das Unternehmen, das das Werkzeug nutzt, sondern den Herausgeber des Modells. Sie gilt auch nicht, wenn das Werkzeug lediglich eine unterstützende Funktion für die Standardbearbeitung erfüllt oder den ihm gelieferten Text und seinen Sinn nicht wesentlich verändert: Hier trifft sich die Verordnung teilweise mit dem Argument der Position 2.

Der Zeitplan passt in drei Daten:

1. Juli 2026

   Die Verordnung (EU) 2026/1744 ändert die KI-Verordnung.

2. 2. August 2026

   Die Transparenzpflichten gelten (Artikel 113).

3. 2. Dezember 2026

   Anbieter, deren System bereits vor dem 2. August 2026 auf dem Markt war, müssen die technische Kennzeichnung eingerichtet haben.

Zwei Anmerkungen zur Tragweite. Der Pflichthinweis für Texte betrifft nur diejenigen, die die Öffentlichkeit über Fragen von öffentlichem Interesse informieren, nicht jede Produktseite oder jede Werbe-E-Mail. Und die europäische Regel ersetzt nicht die übrigen Pflichten, wie die des Verbraucherrechts zu irreführenden Praktiken oder die eigenen Regeln für Kundenbewertungen.

Was Google dazu sagt

Auf der Seite der Suchmaschinenoptimierung hat Google seine Position in einem Beitrag vom 8. Februar 2023 in seinem Blog Search Central dargelegt. Eine angemessene Nutzung von KI verstößt nicht gegen seine Richtlinien; dagegen verstößt es, Inhalte in erster Linie zu erzeugen, um das Ranking in den Ergebnissen zu manipulieren. Google hält einen Hinweis für nützlich bei Inhalten, bei denen sich der Leser fragen könnte, wie sie entstanden sind, und rät, ihn hinzuzufügen, wenn er vernünftigerweise erwartet wird. Es empfiehlt auch eine genaue Autorenangabe dort, wo sich der Leser fragen würde, wer den Text geschrieben hat, meint aber, dass die KI als Autor darzustellen wahrscheinlich nicht der beste Weg ist, um zu sagen, dass sie am Schreiben beteiligt war.

Was wir davon halten

Wir finden das europäische Kriterium klüger als die beiden Ausgangspositionen. Es fragt nicht „wer hat die Wörter getippt?“, es fragt „wer steht dafür ein?“.

Ein Text, der dagegen veröffentlicht wird, ohne dass ihn jemand geprüft hat, verdient eine Kennzeichnung, und er sollte wohl gar nicht veröffentlicht werden.

In diesem Blog entsteht ein generierter Artikel als Entwurf, und erst die menschliche Prüfung holt ihn aus dem Entwurf heraus, um ihn zu veröffentlichen. Da unsere Website statisch ist, bedeutet Veröffentlichen, eine Änderung zusammenzuführen: Wir erklären diese Arbeitsweise in unserem Artikel über die Gründe für den Umstieg auf eine statische Website mit Astro.

Eine Einschränkung dennoch: Wenn die KI den Großteil der Arbeit gemacht hat, kostet ein ehrlicher Hinweis nicht viel, auch ohne gesetzliche Pflicht, und er verhindert, dass ein Leser es später entdeckt und sich getäuscht fühlt. Das ist auch der Sinn der Empfehlung von Google, das einen Hinweis dort rät, wo er vernünftigerweise erwartet wird.

Was uns umstimmen würde: solide Studien, die zeigen, dass Leser einem geprüften und gezeichneten Text weniger vertrauen, wenn er die Hilfe der KI erwähnt, und zwar so sehr, dass der Hinweis kontraproduktiv wird.

Was sich für ein Unternehmen konkret ändert

Es läuft auf vier Handgriffe hinaus:

1. 01Die eigenen Inhalte einordnen.

   Unterscheiden Sie, was die Öffentlichkeit über Fragen von öffentlichem Interesse informiert (Nachrichten, Gesundheit, Finanzen, gesellschaftliche Analysen), was kommerziell ist (Produktseiten, Leistungsseiten) und was privat ist (E-Mails, Kundenantworten). Die gesetzliche Pflicht betrifft nur die erste Gruppe, und nur ohne menschliche Prüfung.

2. 02Die Prüfung formalisieren.

   Wenn Sie auf die Ausnahme der Prüfung setzen, müssen Sie sie beweisen können: wer geprüft hat, wann und wer die redaktionelle Verantwortung übernimmt. Eine Veröffentlichungskette, in der nichts ohne Freigabe hinausgeht, wie die einer in einem Repository verwalteten statischen Website, bewahrt die Spur ohne Aufwand.

3. 03Deepfakes kennzeichnen.

   Ein generiertes Bild, das eine reale Person etwas sagen oder tun lässt, was sie nicht gesagt oder getan hat, und das als echt erscheinen kann, ist ein Deepfake. Anders als Texte wird es unabhängig von seinem Thema gekennzeichnet, auch nach einer Prüfung.

4. 04Eine kurze Regel für das Team schreiben.

   Eine einseitige Regel genügt: welche Werkzeuge, für welche Inhalte, wer prüft, wann ein Hinweis hinzugefügt wird. Sie kann auch Teil der Maßnahmen sein, die Artikel 4 derselben Verordnung zur Förderung der KI-Kompetenz des Personals verlangt, die wir in unserem Leitfaden zu dem, was ein KMU, das KI nutzt, nach AI Act und DSGVO tun muss, beschreiben.

Wo anfangen

Das Gesetz verlangt nicht, alles zu etikettieren, was die KI berührt hat. Es verlangt, Deepfakes zu kennzeichnen und dass eine Person für die Texte einsteht, die die Öffentlichkeit informieren. Beginnen Sie also damit, Ihre Inhalte einzuordnen, und machen Sie dann die Prüfung sichtbar: wer geprüft hat, an welchem Datum und wer unterzeichnet. Wenn Ihre aktuelle Website keine Spur davon bewahrt, was wann veröffentlicht wurde, gibt Ihnen eine Migration zu einer statischen Website, bei der jede Veröffentlichung über eine Vorschau läuft und jede Version wiederherstellbar bleibt, diese Spur, zusätzlich zu einer schnelleren Website.

Häufige Fragen

Quellen

1. Europäischen KI-Verordnung (neuer Tab)eur-lex.europa.eu
2. Verordnung (EU) 2026/1744 (neuer Tab)eur-lex.europa.eu
3. Blog Search Central (neuer Tab)developers.google.com