Gruselig und gefährlich: „My AI“, die neue Snapchat-KI

Was auf den ersten Blick wirkt wie eine neue Folge von „Black Mirror“, entpuppt sich als gruselige Realität: Warum gerade junge Menschen und Kinder vorsichtig mit der Snapchat-KI „My AI“ umgehen sollten und wie man die KI loswird, erklären wir euch jetzt.

Disclaimer: Der Artikel enthält subjektive Standpunkte der Autorin.

„Say HI to My AI“

Snapchat führte kürzlich eine neue Funktion namens „My AI“ ein. Dabei handelt es sich um einen Chatbot, der es User*innen weltweit ermöglicht, mit ihm in einem Chat zu interagieren. Mit „My AI“ könnt ihr euch in einem Gespräch Fragen beantworten lassen, Ratschläge für das perfekte Date einholen oder Ideen für das Abendessen vorgeschlagen bekommen. Diese neue Funktion wurde speziell für Jugendliche entwickelt.

„My AI“ basiert auf der Technologie von ChatGPT, einem Sprachmodell mit KI-Fähigkeiten. Er taucht ganz oben in der Snapchat-Freundesliste auf – wie ein normaler Freund. AI-Chatbots sind noch relativ neu und es gibt nur wenige Vorschriften und Regulierungen für sie. Bei der Integration von „My AI“ haben die schlauen Köpfe bei Snapchat möglicherweise nicht genügend darüber nachgedacht, wie sicher dies für die jugendlichen Nutzer*innen der App ist.

Darum kann „My AI“ gefährlich werden

Etwa 21 Prozent der weltweiten Snapchat-User*innen machen 13- bis 17-Jährige aus. Also ist fast ein Viertel der User*innen minderjährig. Das sollte man auf jeden Fall im Kopf behalten, wenn man über das Thema spricht. Wir haben folgende Punkte zusammengefasst, um euch eine Übersicht zu geben, warum „My AI“ schädlich sein kann.