Bei OpenAI lesen echte Menschen mit, was du dem Chatbot erzählst

Stell dir vor, du schreibst nachts um zwei ChatGPT eine Nachricht, die du sonst niemandem erzählen würdest. Irgendwo sitzt eine fremde Person, deren Job es ist, genau dieses Gespräch zu lesen und zu bewerten.

Was hinter „Project Lily“ steckt

Laut einer Recherche von 404 Media beschäftigt OpenAI unter dem internen Codenamen „Project Lily“ Hunderte Vertragsarbeiter*innen. Ihre Aufgabe: Reale ChatGPT-Unterhaltungen lesen und bewerten. Damit soll dem Modell unter anderem beigebracht werden, sich weniger anzubiedern und sich nicht selbst zu vermenschlichen.

Das betrifft keine kleine Nische: ChatGPT zählt laut OpenAI mittlerweile viele Hunderte Millionen wöchentlich aktive Nutzer*innen weltweit.

Was die Reviewer*innen sehen – und was nicht

OpenAI gibt an, dass Benutzernamen für Prüfende unsichtbar bleiben und persönliche Identifikatoren vorab gefiltert werden. Das Unternehmen räumt jedoch selbst ein: Sensible Details können durchrutschen.

Das wird schnell heikel, sobald du dem Bot von Trennungen, Krankheiten oder finanziellen Engpässen erzählst – im festen Glauben, dass der Dialog zwischen dir und dem Sprachmodell bleibt.

Wie du dich zumindest teilweise schützen kannst

Es gibt immerhin eine direkte Stellschraube: In den ChatGPT-Einstellungen lässt sich unter Datenkontrollen der Punkt „Modell für alle verbessern“ deaktivieren.

Wichtig dabei:

• Keine Rückwirkung: Bereits geführte Gespräche verbleiben im bestehenden Trainingskorpus.
• Sicherheitschecks laufen weiter: Automatisierte Prüfungen auf Richtlinienverstöße greifen unabhängig von dieser Option.
• Restrisiko über Memories: Laut Berichten können aggregierte Nutzer-Erinnerungen („Memory“) weiterhin Rückschlüsse auf Wohnort oder Umfeld zulassen.

Wer generell den eigenen digitalen Fußabdruck reduzieren möchte, findet auch bei anderen Plattformen wie Google ähnliche Datenschutz-Schalter.

Kein reines OpenAI-Problem

Auch Konkurrenten wie Anthropic setzen für die Modelloptimierung auf menschliches Feedback (RLHF). Dahinter steckt die fundamentale Logik moderner LLMs: Menschliche Prüfungen sind aktuell die verlässlichste Methode zur Qualitätskontrolle. Dafür müssen zwangsläufig echte Dialoge gesichtet werden.

Die Illusion der Privatsphäre

Kritisch ist vor allem das Interface-Design: ChatGPT wirkt wie ein vertraulicher Messenger-Chat unter vier Augen – persönlicher Tonfall, Chatverlauf und direkte Interaktion inklusive. Dass am anderen Ende externe Dienstleister sitzen können, wird im Chatfenster nirgends transparent gemacht. Diese Information versteckt sich tief in den Datenschutzbestimmungen. Genau diese Diskrepanz zwischen gefühlter Intimität und technischer Realität sorgt nun für die Debatte.

Fazit: Die Faustregel für Chatbots

Die sicherste Faustregel bleibt pragmatisch: Schreib einer generativen KI nichts, was du nicht auch einer fremden Person im Zug erzählen würdest.

Das bedeutet nicht, auf KI-Tools im Alltag zu verzichten. Aber prüfe kurz deine Datenfreigaben im Profil – bevor du das nächste Mal private Gedanken in das Prompfteld tippst.

Foto von Sora Shimazaki: https://www.pexels.com/de-de/foto/crop-fokussierte-programmierer-hacking-datenbank-auf-laptop-5926379/