Inhalt6
Die Debatte über KI und Desinformation stellt oft zwei Bilder gegeneinander: eine Maschine, die endlos glaubwürdige Lügen produziert, oder ein Werkzeug, das falsche Vorstellungen besser korrigieren kann als ein Mensch. Beide Bilder stützen sich auf seriöse Studien. Doch diese Studien sind im Oktober 2026 nicht gleich belastbar, und keine sagt, was KI „im Allgemeinen“ tun wird.
Unsere Position: KI senkt die Produktionskosten jedes Inhalts, ob wahr oder falsch. Was schützt, ist zu wissen, woher ein Inhalt stammt. Genau das verlangt das europäische Recht seit dem 2. August 2026 zum Teil.
Was die zwei Leitstudien zeigen
KI kann besser desinformieren als wir. Im Juni 2023 veröffentlichte die Fachzeitschrift Science Advances die Studie „AI model GPT-3 (dis)informs us better than humans“. Diese präregistrierte Studie umfasst 697 Teilnehmende. Ihre Autoren kommen zu folgendem Schluss:
GPT-3 ist ein zweischneidiges Schwert: Im Vergleich zu Menschen kann es zutreffende Informationen erzeugen, die leichter zu verstehen sind, aber auch überzeugendere Desinformation.
Die Studie zeigt außerdem, dass die Teilnehmenden die von GPT-3 erzeugten Nachrichten nicht von denen echter Twitter-Nutzer unterscheiden konnten.
Grenze: Die Studie stammt aus der Zeit von GPT-3 und betrifft kurze Nachrichten im Twitter-Format. Sie misst keine Wirkung auf das tatsächliche Verhalten, nur Urteile in einem Versuchsrahmen.
KI kann falsche Überzeugungen auch zurückdrängen. Im September 2024 veröffentlichte Science die Studie „Durably reducing conspiracy beliefs through dialogues with AI“. 2.190 Personen, die einer Verschwörungstheorie anhingen, diskutierten mit GPT-4 Turbo, das ihnen auf ihre Argumente zugeschnittene Fakten entgegenhielt. Der Glaube sank um etwa 20 %, und der Effekt hielt noch zwei Monate später an.
Achtung
Am 11. Juni 2026 hat Science eine Expression of Concern zur Studie von 2024 veröffentlicht
Das ist kein Widerruf: Mit dieser redaktionellen Expression of Concern warnt die Zeitschrift ihre Leser, dass Fragen geprüft werden.
Die Autoren erfuhren nach der Veröffentlichung, dass die Kriterien für die Auswahl der Teilnehmenden im Artikel und in ihrem Analysecode nicht gleich angewendet wurden und dass der veröffentlichte Datensatz überzählige Zeilen enthielt, verursacht durch einen Fehler beim Zusammenführen von Code: Einige Werte des Artikels sind schwer zu reproduzieren. Sie haben der Zeitschrift eine korrigierte Analyse übermittelt, die nach ihren Angaben die ursprünglichen Ergebnisse in Richtung, statistischer Signifikanz und Größenordnung bestätigt; Science prüft sie derzeit. Solange die Zeitschrift nicht entschieden hat, zitieren wir diese Studie als Spur, nicht als Beweis.
Die Öffentlichkeit ist besorgt. Laut dem Digital News Report 2025 des Reuters Institute sind 58 % der Befragten in 48 Märkten besorgt, ob sie in Online-Nachrichten Wahres von Falschem unterscheiden können, ein Anteil nahe dem des Vorjahres. Die Umfrage wurde von YouGov online durchgeführt, von Mitte Januar bis Ende Februar 2025 (Methodik). Derselbe Bericht stellt fest, dass die Öffentlichkeit in den meisten Ländern skeptisch gegenüber dem Einsatz von KI im Journalismus bleibt und sich wohler fühlt, wenn Menschen eingebunden bleiben.
Position 1: KI ist vor allem eine Desinformationsmaschine
Das erste Lager geht von einer wirtschaftlichen Feststellung aus. Einen falschen Artikel zu schreiben, ein falsches Bild oder eine falsche Stimme herzustellen, kostete Zeit und Know-how. Diese Kosten fallen fast auf null. Desinformationskampagnen können also mehr produzieren, schneller, in mehr Sprachen, und ihre Botschaften an jedes Publikum anpassen. Wenn Menschen schon jetzt einen generierten Text nicht von einem menschlichen unterscheiden, wie die Studie von 2023 zeigt, schwindet das Vertrauen in alles, was online kursiert. Selbst ein wahrer Inhalt wird verdächtig.
Position 2: KI kann ein Werkzeug der Korrektur sein
Das zweite Lager antwortet, dass dasselbe Werkzeug zum Prüfen dienen kann. Ein Modell, das geduldig im Dialog bleibt, die Argumente jedes Einzelnen aufgreift und passende Fakten entgegenhält, tut, was ein müder oder genervter Mensch nicht mehr tut. Die Studie von 2024 legt nahe, dass ein gut gestaltetes Gespräch als unerschütterlich geltende Überzeugungen bewegen kann. Dieselben Techniken können Journalisten oder Moderatoren helfen, zweifelhafte Inhalte schneller zu erkennen.
Dieses Lager hat ein echtes Argument, doch sein Hauptbeleg steht seit Juni 2026 unter Vorbehalt. Das muss man sagen.
Was wir davon halten
Wir glauben nicht, dass KI „vor allem“ das eine oder das andere ist. Sie beschleunigt, was man von ihr verlangt. Die eigentliche Veränderung liegt woanders: Man kann einen Inhalt nicht mehr nach seinem Aussehen beurteilen. Ein gut geschriebener Text, ein scharfes Foto oder eine natürliche Stimme beweisen nichts mehr. Daher unsere Überzeugung:
Das Wichtigste
Die nützliche Frage lautet nicht mehr nur „Ist das wahr?“, sondern auch „Woher kommt das, und wer steht dafür ein?“
Für ein Unternehmen, das veröffentlicht, heißt das: die Herkunft synthetischer Inhalte angeben, seine Primärquellen nennen und eine Person verantwortlich halten für das, was hinausgeht.
Eine Grenze unserer eigenen Meinung: Wir haben keine Erfahrungswerte zur tatsächlichen Wirksamkeit der Kennzeichnung von Inhalten. Man kann sie vorschreiben, man weiß noch nicht, ob sie verändert, wie Menschen beurteilen, was sie sehen.
Was uns umstimmen würde: belastbare Studien unter realen Bedingungen, die zeigen, dass KI falsche Überzeugungen in großem Maßstab korrigiert. Oder umgekehrt, dass sie Wahlen oder Verhalten messbar kippen lässt. Die im Oktober 2026 verfügbaren Belege erlauben weder das eine noch das andere.
Was sich für ein Unternehmen konkret ändert
Die europäische KI-Verordnung (AI Act) sieht in Artikel 50 Absatz 2 vor, dass die Anbieter von Systemen, die synthetische Inhalte erzeugen (Text, Bild, Ton, Video), dafür sorgen, dass diese Inhalte in einem maschinenlesbaren Format gekennzeichnet sind. Wer ein solches System beruflich nutzt, hat ebenfalls seinen Teil (Absatz 4): Er legt die Deepfakes offen, die er erzeugt, und die Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, außer wenn ein Mensch sie geprüft hat und eine Person die redaktionelle Verantwortung trägt. Wir beschreiben diese Regeln ausführlich in unserer Analyse zur Kennzeichnung von Texten, die eine KI geschrieben hat.
Drei Daten bestimmen den Zeitplan:
- Juli 2026
Die Verordnung (EU) 2026/1744 wird angenommen.
- 2. August 2026
Artikel 50 gilt.
- 2. Dezember 2026
Die Frist, die die Verordnung vom Juli den Anbietern lässt, deren System bereits auf dem Markt war, endet.
Für ein mittelständisches Unternehmen, das Werbung macht oder Inhalte veröffentlicht, drei Reflexe:
- Generierte Bilder und Videos in Kampagnen kennzeichnen. Für einen Deepfake, also ein von KI erzeugtes oder manipuliertes Bild, einen Ton oder ein Video, die realen Personen, Orten oder Ereignissen so ähneln, dass sie als echt durchgehen könnten, ist das Pflicht; darüber hinaus ist es gute Praxis.
- Nie eine Zahl ohne ihre Primärquelle veröffentlichen. Eine aus zweiter Hand übernommene Zahl kann falsch sein, und KI erfindet manchmal mit großer Selbstsicherheit.
- Eine menschliche Prüfung beibehalten für alles, was an Kunden geht. Zusammen mit einer Person, die die Veröffentlichung verantwortet, ist es das, was von der Kennzeichnung eines Textes von öffentlichem Interesse befreit, und laut dem Reuters Institute das, womit sich die Öffentlichkeit wohler fühlt.
Aus der Praxis
Ein Kunde hat es auf eigene Kosten gelernt
Auf seiner Website mussten drei von einem Modell erfundene Inhalte zurückgezogen werden. Deshalb kommt eine Zahl ohne überprüfbare Quelle nicht auf die Website, die Sie gerade lesen: In diesem Blog entsteht jeder Artikel als Entwurf, und erst eine menschliche Prüfung veröffentlicht ihn.
Dieselbe Flut generierter Inhalte wirft eine andere Frage auf, nämlich was die nächsten Modelle lernen werden: Wir behandeln sie in unserer Analyse des Webs, das sich von sich selbst ernährt.
Die Rubrik Online-Werbung bündelt unsere Analysen zur Werbung, angefangen mit unserem Leitfaden, um die Verkäufe aus dem CRM an Google Ads zurückzumelden. Und wenn Sie sich fragen, was diese Regeln für Ihre eigenen Kampagnen ändern, schreiben Sie uns, um darüber zu sprechen. Für Kampagnen, die mit Ihrer Website und Ihrem CRM zusammenarbeiten, sehen Sie sich unser Angebot digitales Marketing aus einer Hand an.
Häufige Fragen
Kann man einen von einer KI geschriebenen Text erkennen?
Beim Lesen nicht zuverlässig. In der Studie von 2023 unterschieden die Teilnehmenden die von GPT-3 geschriebenen Nachrichten nicht von denen echter Twitter-Nutzer, und die Studie betraf nur dieses Modell. Deshalb verlässt sich die europäische Verordnung nicht auf das menschliche Auge: Sie verlangt von den Anbietern der Werkzeuge, generierte Inhalte in einem maschinenlesbaren Format zu kennzeichnen, das sie als solche erkennbar macht.
Bedeutet eine Expression of Concern, dass die Studie falsch ist?
Nein. Es ist eine Warnung der Zeitschrift, veröffentlicht, während sie Fragen zum Artikel prüft; es ist weder ein Widerruf noch eine Korrektur. Im Fall der Studie von 2024 haben die Autoren eine korrigierte Analyse übermittelt, die nach ihren Angaben ihre Ergebnisse bestätigt. Solange die Zeitschrift nicht zu einem Schluss gekommen ist, wird die Studie nicht als gesicherter Beweis zitiert.
Wo prüft man eine Information, die zweifelhaft erscheint?
Zuerst an ihrer Primärquelle: die Studie, der Gesetzestext oder die ursprüngliche Mitteilung, statt des Artikels, der sie aufgreift. In der Umfrage 2025 des Reuters Institute nennen die Befragten zuerst Nachrichtenmedien, denen sie vertrauen (38 %), offizielle Quellen (35 %) und Faktencheck-Websites (25 %), vor sozialen Netzwerken (14 %). Jüngere greifen häufiger auf soziale Netzwerke und KI-Assistenten zurück.
Quellen
- „AI model GPT-3 (dis)informs us better than humans“ (neuer Tab)doi.org
- „Durably reducing conspiracy beliefs through dialogues with AI“ (neuer Tab)doi.org
- Redaktionellen Expression of Concern (neuer Tab)doi.org
- Digital News Report 2025 des Reuters Institute (neuer Tab)reutersinstitute.politics.ox.ac.uk
- Methodik (neuer Tab)reutersinstitute.politics.ox.ac.uk
- Europäische KI-Verordnung (neuer Tab)eur-lex.europa.eu
- Verordnung (EU) 2026/1744 (neuer Tab)eur-lex.europa.eu
Digital News Report 2025 des Reuters Institute
Auf reutersinstitute.politics.ox.ac.uk lesen(neuer Tab)Jim · Gründer von Brain Plus AI
Ebenfalls lesenswert zu online-werbung
Einordnen8 Min.
Macht KI dumm? Was die Studien sagen
Die Studien, die zu diesem Thema kursieren, haben nicht alle denselben Wert. Wir ordnen vier davon nach ihrer Belastbarkeit, vom Feldexperiment bis zum Preprint mit 54 Personen, und sagen, was sich daraus ergibt.
Auswählen und kalkulieren7 Min.
Google Ads im B2B: das Mindestbudget, das ein Signal liefert
Im B2B kostet ein zu kleines Google-Ads-Budget nicht nur wenig: Es sagt nichts aus. Das richtige Minimum berechnet sich aus Ihren Klicks, Ihrer Anfragequote und der Zahl der Anfragen, die Sie für ein Urteil brauchen.
Auswählen und kalkulieren6 Min.
LinkedIn Ads: teuer, aber für wen es den Preis wert ist
LinkedIn Ads gilt als teuer, weil es den Zugang zu einer Funktion, einem Unternehmen und einer Hierarchieebene verkauft. Für wen dieses Targeting seinen Preis wert ist und wie Sie das prüfen, bevor Sie ein Budget einsetzen.