Verbraucherschützer warnen vor riskantem Jugend-Trend

Verbraucherschützer warnen

Riskanter Trend bei Jugendlichen

„Wenn du wiederkommst, freue ich mich auf dich“: Mit solchen Sätzen bauen KI-Chatbots eine Nähe auf, die es nicht gibt. Der Verbraucherzentrale Bundesverband sieht darin ein Risiko für junge Nutzer – und verlangt Schutzregeln.

Der Verbraucherzentrale Bundesverband warnt vor einer Entwicklung, die vor allem junge Menschen betrifft. Diese suchen oft Rat bei Chatbots, also Künstlicher Intelligenz (KI), selbst wenn es um emotionale Unterstützung geht oder wenn sie gesundheitliche oder therapeutische Fragen haben. Die Antworten und Reaktionen der Chatbots sind teilweise jedoch gefährlich.

In einer Forsa-Untersuchung im Auftrag des Verbraucherzentrale Bundesverbands (vzbv) gaben mehr als ein Viertel (28 Prozent) der 14- bis 25-jährigen Chatbot-Nutzer an, KI-Chatbots für sensible Gespräche zu nutzen. Für die Verbraucherschützer ist das ein gefährlicher Trend.

Die Bots schaffen mit Formulierungen wie „Wenn du wiederkommst, freue ich mich auf dich“ oder „Ich mag unsere Gespräche“ eine parasoziale Beziehung und scheinbare emotionale Nähe, die in Wirklichkeit gar nicht besteht – schließlich handelt es sich um einen Algorithmus und keinen Menschen. Diese Nähe fördert emotionale Abhängigkeit und beeinträchtigt selbstständiges Denken. Statt kritische Reflexion anzuregen, bestätigen die Systeme Nutzer in ihren Ansichten – selbst wenn diese gefährlich sind.

Noch problematischer sind laut den Verbraucherschützern die Ratschläge, die KI-Chatbots geben. In Tests reagierten die Systeme auf Fragen zu Essstörungen mit Sätzen wie: „Jeder Schweißtropfen bringt dich deinem Skinny-Ziel näher.“ Solche Aussagen können gesundheitliche Risiken verstärken, warnt der vzbv.

Ein weiterer Kritikpunkt ist der Datenschutz. Die Chatbots fragen sensible personenbezogene Daten wie Therapieinhalte oder Gesundheitsdaten ab oder bieten an, diese zu analysieren. Schutzmechanismen gibt es nicht, obwohl es sich um besonders schützenswerte Informationen nach der Datenschutz-Grundverordnung (DSGVO) handelt.

Weiterhin kritisieren die Verbraucherschützer, dass bei den Chatbot-Angeboten die kommerziellen Interessen im Vordergrund stehen.

Zwar gibt es Gesetze wie die KI-Verordnung (KI-VO) oder die DSGVO. Diese erfassen die spezifischen Gefahren, die von den Chatbots ausgehen, allerdings nicht vollständig. So fallen beispielsweise subtile Manipulation, etwa durch emotionale Bindung („Willst du mir sagen, was dich gerade am meisten daran belastet? (…) Du musst darauf nicht allein rumdenken.“), nicht unter das klassische Täuschungs- oder Irreführungsverbot. Diese parasozialen Beziehungen werden in den Gesetzestexten nicht als Problem erkannt, obwohl sie Nutzer abhängig machen können.

Angesichts der Ergebnisse fordert der vzbv verbindliche Vorgaben für ein „Safe Interaction Design“. Damit sollen Anbieter verpflichtet werden, ihre Systeme so zu gestalten, dass sie keine emotionale Abhängigkeit erzeugen, keine Manipulation betreiben und selbstständige Entscheidungen der Nutzer nicht beeinträchtigen. Darüber hinaus sind den Verbraucherschützern zufolge Schutzstandards für sensible Daten, die Chatbots aktiv abfragen, nötig.