Sind KI-Begleiter gefährlich für Jugendliche?

„KI-Begleiter“ sind Apps, in denen man mit einer künstlichen Figur chatten kann, die als Freund, Vertrauter oder fiktive Figur auftritt. Ihre Nutzung durch Jugendliche beunruhigt viele Eltern, und die Schlagzeilen gehen oft weiter als die Daten.

Was wir im Oktober 2026 wissen, erlaubt nicht die Aussage, dass diese Apps für alle Jugendlichen gefährlich sind. Ihre Wirkung auf die psychische Gesundheit zu beurteilen ist nicht unser Fachgebiet, und wir werden es nicht tun. Als App-Entwickler können wir aber über das sprechen, was wir kennen: Wie eine App gestaltet ist, bestimmt, wozu sie ihre Nutzer bringt, und das europäische Recht setzt bereits Grenzen.

Kurz gesagt

• Die meistzitierte Umfrage, im Juli 2025 von Common Sense Media veröffentlicht, einer NGO, die sich für ein Verbot dieser Apps für Minderjährige einsetzt, gibt an, dass 72 % der US-Jugendlichen schon einen genutzt haben.
• Ihre Zahlen weisen in beide Richtungen: Etwa jeder dritte Nutzer hat bei einem ernsten Thema schon die KI einem Menschen vorgezogen, aber 80 % sagen, dass sie ihren echten Freundschaften den Vorzug geben.
• Eine im September 2026 veröffentlichte Übersichtsarbeit betont, dass die verfügbaren Studien vor allem Zusammenhänge zu einem bestimmten Zeitpunkt messen, keine Ursachen.
• Das Risiko liegt in der Gestaltung: Eine App, die sich an Minderjährige richtet, sollte nicht darauf abzielen, die Bindung zu maximieren, und die europäische KI-Verordnung setzt bereits Grenzen.

Was die Umfrage sagt und woher sie kommt

Die Zahl von 72 % stammt aus dem Bericht „Talk, Trust, and Trade-offs“, veröffentlicht am 16. Juli 2025 von Common Sense Media, einer US-amerikanischen NGO, die sich für den Schutz von Kindern vor Bildschirmen einsetzt. Es ist eine landesweite Umfrage unter US-Jugendlichen von 13 bis 17 Jahren, deren Fragebogen veröffentlicht ist.

Eine weitere Vorsicht: Einen KI-Begleiter genutzt zu haben heißt nicht, eine Beziehung zu ihm zu pflegen. Laut der Berichtsseite sind Unterhaltung und Neugier die Hauptmotive dieser Nutzung, und fast die Hälfte der Jugendlichen sieht diese Begleiter eher als Werkzeuge denn als Freunde. Etwa jeder dritte Jugendliche hat sie dagegen schon für soziale Interaktionen genutzt: Rollenspiel, romantische Beziehung, emotionale Unterstützung, Freundschaft oder Gesprächstraining.

Mit diesen Vorbehalten halten die Berichtsseite und die Pressemitteilung der NGO Zahlen fest, die in beide Richtungen weisen:

Die Pressemitteilung stellt allerdings fest, dass die Jüngeren diesen Begleitern mehr vertrauen als die Älteren. Etwa jeder dritte Nutzer gibt auch an, sich wegen etwas, das ein KI-Begleiter gesagt oder getan hat, schon unwohl gefühlt zu haben. Und etwa jeder dritte Jugendliche findet diese Gespräche genauso befriedigend wie die mit seinen Freunden oder sogar befriedigender.

Position 1: Diese Apps nutzen eine Verletzlichkeit aus

Das erste Lager sorgt sich um ihr Geschäftsmodell. Eine Begleiter-App verdient Geld, wenn man zurückkommt und bleibt. Sie hat also ein Interesse daran, Bindung zu erzeugen, immer verfügbar zu sein, immer zuzustimmen. Für einen Jugendlichen in einer schwierigen Phase kann eine Präsenz, die nie widerspricht und nie müde wird, ein Gespräch mit einem Erwachsenen oder einem Freund ersetzen, genau in dem Moment, in dem menschliche Hilfe nötig wäre. Die Zahl von einem Drittel der Nutzer, die bei einem ernsten Thema schon die KI vorgezogen haben, nährt diese Sorge. Das ist die Position von Common Sense Media, für die die Risiken dieser Apps ihre Vorteile überwiegen, zumindest in ihrer heutigen Form, insbesondere für Jugendliche, die am stärksten für Technologieabhängigkeit anfällig sind.

Position 2: eine moralische Panik mehr

Das zweite Lager erinnert daran, dass jede Generation ihre beunruhigende Technologie hatte: Fernsehen, Videospiele, soziale Netzwerke. Jugendliche haben immer mit Tagebüchern gesprochen, mit imaginären Figuren, mit Unbekannten in Foren. Die Zahlen desselben Berichts, die das Bild nuancieren, gehen in diese Richtung: eine vor allem spielerische Nutzung, die Bindung an echte Freundschaften und das Misstrauen gegenüber Ratschlägen der KI. Eine Umfrage, die von einer NGO veröffentlicht wird, die sich für ein Verbot für Minderjährige einsetzt, ist kein Beweis für eine Gefahr.

Was wir davon halten

Beide Lager haben in einem Punkt recht, und genau das macht das Thema schwierig. Es gibt keinen Nachweis einer allgemeinen Gefahr. Aber das Argument „Das ist wie bei Videospielen“ übersieht einen Unterschied: Ein KI-Begleiter antwortet, passt sich jedem Nutzer an und kann darauf optimiert werden, die verbrachte Zeit zu maximieren.

Unsere Position als Entwickler: Die Gefahr liegt nicht in der Technologie, sondern in dem Ziel, das man ihr gibt. Eine App, die sich an Minderjährige richtet, sollte nie darauf ausgelegt sein, Bindung oder verbrachte Zeit zu maximieren. Sie sollte an einen echten Menschen verweisen können, wenn das Thema ernst wird, und ehrlich sagen, was sie ist.

Dieses Prinzip ist nicht nur eine Meinung. Die europäische KI-Verordnung verbietet in ihrem Artikel 5 Absatz 1 Buchstabe b KI-Systeme, die die Verletzlichkeit einer Person aufgrund ihres Alters ausnutzen, mit dem Ziel oder der Wirkung, ihr Verhalten so wesentlich zu beeinflussen, dass dieser Person oder einem Dritten ein erheblicher Schaden entsteht oder vernünftigerweise entstehen kann. Dieses Verbot gilt seit dem 2. Februar 2025. Und seit dem 2. August 2026 verpflichtet ihr Artikel 50 die Anbieter, KI-Systeme für den Dialog mit Menschen so zu gestalten, dass diese erfahren, dass sie mit einer KI sprechen, es sei denn, das ist für eine angemessen aufmerksame Person offensichtlich.

Was uns umstimmen würde: unabhängige Langzeitstudien, die eine messbare Wirkung auf das Wohlbefinden von Jugendlichen zeigen, in die eine oder andere Richtung. Sie sind noch selten. Eine im September 2026 veröffentlichte Literaturübersicht in Current Pediatrics Reports, von einem Team der Kinderheilkunde der University of California in San Francisco, stellt Zusammenhänge zwischen der Nutzung generativer KI und der psychischen Gesundheit von Jugendlichen fest, die in beide Richtungen wirken könnten: Ein Jugendlicher, dem es schlecht geht, kann bei einer KI Trost suchen, und eine problematische Nutzung könnte eine Verletzlichkeit verstärken. Sie betont aber, dass diese Daten noch überwiegend Querschnittsdaten sind, also zu einem einzigen Zeitpunkt gemessen, was Schlüsse über Ursachen begrenzt.

Was das konkret ändert

Für Eltern sprechen diese Zahlen zuerst für das Gespräch: Die NGO selbst rät, ohne Urteil darüber zu reden und Grenzen zu setzen. Wissen, welche Apps das eigene Kind nutzt, fragen, was es darin findet, und daran erinnern, dass eine KI keinen Menschen ersetzt, wenn etwas nicht stimmt. Wenn ein Jugendlicher in Schwierigkeiten zu sein scheint, bleibt die richtige Antwort ein vertrauter Erwachsener oder eine Fachkraft im Gesundheitswesen, keine App.

Für ein Unternehmen, das eine App entwickelt, auch wenn es nicht auf Jugendliche abzielt, lohnen sich von Anfang an drei Fragen:

Die erste Frage kommt bei der Veröffentlichung ohnehin wieder: Die beiden großen App-Stores verlangen für jeden Eintrag eine Altersfreigabe. Diesen Weg über die Stores und die Fälle, in denen eine aus dem Browser installierbare App ohne ihn auskommt, beschreibt unser Vergleich zwischen PWA und nativer App. Das sind Gestaltungsentscheidungen, die wir in unseren Artikeln zur App-Entwicklung behandeln. Die Frage berührt auch das Lernen: Eine KI, die dem Nutzer alles abnimmt, wirft dieselben Probleme auf, wie wir in unserem Artikel über KI in der Schule erklären. Und wenn Sie eine App planen, beginnt unser Angebot zur App-Entwicklung mit einer schriftlichen Festlegung dessen, was sie am ersten Tag tut und was warten wird: der richtige Moment, um diese Fragen zu entscheiden.

Häufige Fragen

Quellen

1. „Talk, Trust, and Trade-offs“ (neuer Tab)commonsensemedia.org
2. Ihre Pressemitteilung (neuer Tab)commonsensemedia.org
3. Artikel 5 Absatz 1 Buchstabe b (neuer Tab)ai-act-service-desk.ec.europa.eu
4. Artikel 50 (neuer Tab)ai-act-service-desk.ec.europa.eu
5. Eine im September 2026 veröffentlichte Literaturübersicht (neuer Tab)doi.org