Gruselig und gefährlich: „My AI“, die neue Snapchat-KI

Datenschutz und Fehlinformationen

Da alle Inhalte des Chats mit „My AI“ gespeichert werden, besteht ein Risiko in Bezug auf den Datenschutz. Obwohl Snapchat angibt, zusätzliche Sicherheitsverbesserungen und Kontrollen implementiert zu haben, um die Privatsphäre der Nutzer*innen zu gewährleisten, können dennoch Sicherheitslücken auftreten. Es besteht die Möglichkeit, dass sensible oder persönliche Informationen durch den Chatbot gefährdet werden. Zusätzlich kann der Chatbot, sofern es der App erlaubt wurde, auf den genauen Standort zugreifen.

Obwohl Snapchat darauf hinweist, dass „My AI“ entwickelt wurde, um falsche, schädliche oder irreführende Antworten zu vermeiden, besteht immer noch ein gewisses Risiko. Künstliche Intelligenz basiert auf Daten und Algorithmen, die von Menschen erstellt wurden. Daher können bestimmte Vorurteile oder falsche Informationen widergespiegelt werden. Es ist möglich, dass „My AI“ unbeabsichtigt falsche Antworten gibt, was zu Problemen führen kann.

Fragwürdige Ratschläge

Als YouTuber Torben Platzer dem Chatbot in einem Selbstversuch sagt, dass er sich aufgrund seines Körpergewichts nicht wohlfühle, empfiehlt „My AI“ ihm daraufhin einen Schönheitsfilter. Auch wenn man „My AI“ fragt, wie man auf Bildern besser aussieht, schickt er beispielsweise Filter, die das Gesicht weichzeichnen und markanter machen und die Augen vergrößern. Das kann das Selbstbild von jungen Menschen drastisch verschlechtern und ihnen das Gefühl geben, dass sie ohne Filter nicht schön genug sind.

In dem gleichen Selbstversuch gesteht Torben Platzer „My AI“, dass er eine Aufgabe aus dem Unterricht nicht verstehe. Ohne gefragt worden zu sein, schickt „My AI“ daraufhin die Antwort und sagt ihm, dass er davon aber niemanden erzählen solle. Er motiviert Torben also zu lügen. Generell ist der Mangel an Kontrolle über das, was „My AI“ den Nutzer*innen mitteilt schwierig. Gerade Jugendliche mit psychischen Problemen könnten in „My AI“ einen Austauschpartner sehen, der ihnen zuhört und Ratschläge gibt. Ob diese Ratschläge wirklich gut und hilfreich sind, kann man nicht wissen. Wenn Nutzer*innen stark auf „My AI“ angewiesen sind und sich auf seine Ratschläge und Informationen verlassen, können sie leicht manipuliert werden.

Es ist wichtig, kritisch zu bleiben, die Antworten des Chatbots zu hinterfragen und nicht blind auf seine Ratschläge zu vertrauen. Nutzer*innen sollten sich bewusst sein, dass „My AI“ zwar nützlich sein kann, aber auch potenzielle Risiken und Gefahren birgt. Gerade Eltern sollten aufklärende Gespräche mit ihren Kindern führen und im Notfall die KI löschen. Wie das funktioniert, erklären wir euch im nächsten Abschnitt.