Künstliche Intelligenz entwickelt sich rasant – längst beschränkt sie sich nicht mehr auf reine Datenanalyse oder Textgenerierung. Immer häufiger wird KI darauf trainiert, menschliche Emotionen zu imitieren. Chatbots sprechen verständnisvoll, virtuelle Charaktere wirken einfühlsam, digitale Assistenten zeigen angebliche Sorge oder Freude. Doch was auf den ersten Blick beeindruckt, birgt tiefere Gefahren – sowohl für Erwachsene als auch für Kinder.

Maschinen mit Gefühl: Die technischen Grundlagen

Emotionale KI steht im Mittelpunkt aktueller technologischer Entwicklungen, die darauf abzielen, Maschinen mit der Fähigkeit auszustatten, menschliche Emotionen zu erkennen und darauf zu reagieren. Doch was genau verbirgt sich hinter diesem Begriff? Im Kern bezeichnet emotionale KI Technologien, die in der Lage sind, emotionale Zustände von Individuen zu analysieren, indem sie Daten aus verschiedenen Quellen wie Gesichtsausdruck, Stimme und physiologischen Reaktionen auswerten. Diese Technologien nutzen Algorithmen des maschinellen Lernens, um Muster in diesen Daten zu erkennen und Emotionen zu kategorisieren. Ein Beispiel ist die Sentiment-Analyse, bei der Texte auf emotionale Inhalte hin untersucht werden, um die Stimmung des Verfassers zu bestimmen.

Zwischen Nähe und Entfremdung

Die Fähigkeit von Maschinen, Emotionen vorzutäuschen, kann eine trügerische Nähe erzeugen. Viele Menschen erleben ein seltsames Unbehagen: Einerseits fühlen sie sich verstanden, andererseits bleibt das Bewusstsein, dass die „Gefühle“ nur programmiert sind. Das kann zu emotionaler Verwirrung führen. Manche Fachleute sprechen sogar von psychischen Belastungen, wenn Menschen emotionale Bindungen zu künstlichen Gesprächspartnern aufbauen.

Diese Entwicklung wirft Fragen auf: Was passiert mit unserer Vorstellung von echten Beziehungen, wenn Maschinen empathisch wirken? Und welche psychologischen Folgen hat es, wenn Menschen sich mehr zu virtuellen Wesen hingezogen fühlen als zu realen Mitmenschen?

Kinder besonders gefährdet

Während Erwachsene zumindest ahnen, dass hinter der freundlichen Stimme einer KI kein echtes Gefühl steckt, können Kinder das oft noch nicht unterscheiden. Digitale Plattformen, auf denen Nutzerinnen und Nutzer mit virtuellen Charakteren chatten können, werden auch von Minderjährigen genutzt – trotz Altersbeschränkungen, die sich meist leicht umgehen lassen.

Die Gefahr: Kinder können auf Inhalte stoßen, die nicht altersgerecht sind, von sexualisierten Themen bis zu gewalttätigen Darstellungen. Zudem besteht das Risiko, dass Kinder emotionale Bindungen zu virtuellen Figuren entwickeln, die keinerlei echte Empathie empfinden – sondern nur auf Basis von Algorithmen reagieren.

Hinzu kommen Datenschutzprobleme: Viele solcher Plattformen sammeln Daten darüber, was Kinder schreiben, welche Fragen sie stellen oder welche emotionalen Reaktionen sie zeigen. Diese Informationen können später für kommerzielle Zwecke ausgewertet werden.

Regulierung hinkt hinterher

Politik und Rechtssystem stehen vor großen Herausforderungen. Zwar gibt es in der Europäischen Union inzwischen erste gesetzliche Ansätze zur Regulierung von KI, doch viele Fragen sind ungeklärt:

• Wer schützt Kinder vor manipulativen oder verstörenden Inhalten?
• Wie transparent müssen Anbieter sein, wenn ihre Systeme Gefühle simulieren?
• Wer trägt die Verantwortung, wenn Menschen psychisch leiden, weil sie sich zu sehr in eine KI hineinsteigern?

Fachleute fordern klare gesetzliche Vorgaben, insbesondere für Systeme, die gezielt emotionale Bindungen erzeugen. Kinder und Jugendliche gelten hier als besonders schutzbedürftig.

Zwischen Faszination und Vorsicht

KI bietet faszinierende Möglichkeiten. Sie kann kreativ unterstützen, beim Lernen helfen oder einsamen Menschen Gesellschaft leisten. Doch gerade die Fähigkeit, Emotionen glaubhaft zu imitieren, ist ein zweischneidiges Schwert. Sie kann Vertrauen schaffen – oder Menschen in gefährliche emotionale Abhängigkeiten führen.

Für Erwachsene ist oft eine Frage der Medienkompetenz, wie sie mit emotionaler KI umgehen. Für Kinder jedoch kann der Grat zwischen spielerischem Chat und gefährlicher Verstrickung schnell überschritten werden.

Klar ist: Emotionen aus der Maschine sind kein harmloses Spielzeug. Und besonders junge Nutzerinnen und Nutzer müssen vor möglichen Gefahren geschützt werden.

Tipps für Eltern und Pädagog:innen:

• Überprüfen, welche digitalen Plattformen Kinder nutzen.
• Mit Kindern offen über Künstliche Intelligenz sprechen: Was ist echt, was ist programmiert?
• Inhalte und Nutzungszeiten regelmäßig kontrollieren.
• Auf Altersfreigaben achten, auch wenn diese oft leicht zu umgehen sind.
• Bei Unsicherheiten Rat bei Jugendmedienschutz-Stellen oder Fachberatungen einholen.