Wer ChatGPT als digitalen Lebenscoach, Hausaufgabenhilfe oder persönlichen Berater nutzt, sollte sich einer Tatsache bewusst sein: Deine Chats sind nicht so privat, wie du vielleicht denkst. Wie das Investigativ-Magazin 404 Media unter Berufung auf interne Dokumente berichtet, lässt OpenAI im Rahmen eines Projekts namens „Project Lily“ freiberufliche Mitarbeiter echte Nutzer-Konversationen mitlesen. Ziel ist es, ChatGPT weniger unterwürfig und menschenähnlich zu machen. Doch die Grenze zwischen legitimer Produktverbesserung und Datenschutzverletzung verschwimmt dabei zunehmend – besonders brisant angesichts der über 900 Millionen wöchentlich aktiven Nutzer weltweit. Für den deutschsprachigen Raum, wo Datenschutz traditionell einen hohen Stellenwert genießt, wirft das fundamentale Fragen auf.
Hintergrund: Wenn der Chatbot zum Vertrauten wird
ChatGPT hat sich längst über seinen ursprünglichen Einsatzzweck hinausentwickelt. Was einmal als Werkzeug zum Verfassen von E-Mails oder zur Ideenfindung gedacht war, ist für viele Menschen zum digitalen Gesprächspartner für die intimsten Lebensbereiche geworden. Eine Studie von OpenAI selbst belegt das eindrücklich: Allein im Juni 2025 handelten fast drei Viertel aller Konversationen von Themen außerhalb des Berufslebens. Rund 28 Prozent der Nutzer stellten Alltagsfragen oder suchten Hilfe bei Hausaufgaben.
Noch aufschlussreicher ist eine Aussage von OpenAI-Chef Sam Altman selbst: Vor allem Menschen im Alter zwischen 20 und 40 Jahren würden den Bot als eine Art Lebenscoach ansehen. Das bedeutet, dass tagtäglich Millionen von Menschen persönliche Sorgen, gesundheitliche Fragen, Beziehungsprobleme und finanzielle Anliegen in das Chatfenster tippen – im Vertrauen darauf, dass diese Informationen vertraulich bleiben. Ein Vertrauen, das durch die jüngsten Enthüllungen erheblich erschüttert wird.
Die Details: Was hinter „Project Lily“ steckt
Laut den von 404 Media eingesehenen internen OpenAI-Unterlagen funktioniert „Project Lily“ nach einem dreistufigen Prozess. Überwiegend freiberufliche Auftragnehmer – also keine fest angestellten OpenAI-Mitarbeiter mit entsprechenden Compliance-Schulungen – prüfen reale Konversationen zwischen Nutzern und ChatGPT:
- Schritt 1: Die Prüfer lesen die Eingabe des Nutzers.
- Schritt 2: Sie versuchen, die vermeintliche Absicht hinter der Anfrage zu ermitteln.
- Schritt 3: Sie bewerten die Antwort von ChatGPT auf Qualität und Angemessenheit.
Das erklärte Ziel von OpenAI: Die Antworten des Chatbots sollen klüger, weniger unterwürfig und weniger menschenähnlich werden. Das sogenannte „Sycophancy“-Problem – also die Tendenz von ChatGPT, Nutzern nach dem Mund zu reden und ihnen unkritisch zuzustimmen – ist in der KI-Community seit langem bekannt und wurde von OpenAI selbst als problematisch eingestuft. Dass zur Lösung dieses Problems jedoch immer mehr externe Auftragnehmer Zugang zu persönlichen Chatverläufen erhalten, ist eine Dimension, die vielen Nutzern nicht bewusst sein dürfte.
Besonders kritisch: Es ist aus den bisher bekannten Informationen nicht eindeutig ersichtlich, wie umfassend die Anonymisierung der Daten erfolgt, bevor die Freiberufler sie zu Gesicht bekommen. Bei einem Chatbot, dem Menschen ihre tiefsten Sorgen anvertrauen, macht das einen gewaltigen Unterschied.
Einordnung: Was das für den DACH-Raum bedeutet
Für Solopreneure, Marketer und Tech-Interessierte im deutschsprachigen Raum hat diese Enthüllung mehrere konkrete Implikationen. Zunächst die offensichtlichste: Die DSGVO. Die europäische Datenschutz-Grundverordnung stellt strenge Anforderungen an die Verarbeitung personenbezogener Daten. Wenn freiberufliche Auftragnehmer – möglicherweise ohne ausreichende datenschutzrechtliche Absicherung – persönliche Chatverläufe europäischer Nutzer einsehen, bewegt sich OpenAI auf dünnem Eis. Europäische Datenschutzbehörden haben das Unternehmen bereits in der Vergangenheit ins Visier genommen; diese neuen Informationen dürften weiteren Anlass zur Prüfung geben.
Für Unternehmen und Selbstständige, die ChatGPT im Arbeitsalltag einsetzen, ergibt sich eine klare Handlungsempfehlung: Behandle jede Eingabe in ChatGPT so, als könnte sie von Dritten gelesen werden – denn genau das kann der Fall sein. Vertrauliche Geschäftsinformationen, Kundendaten, Strategiepapiere oder sensible Personalthemen haben in einem Standard-ChatGPT-Chat nichts verloren. Das gilt umso mehr, als OpenAI in seinen Nutzungsbedingungen durchaus darauf hinweist, dass Konversationen zur Verbesserung des Modells verwendet werden können. Die wenigsten Nutzer lesen diese Bedingungen allerdings im Detail.
Meine persönliche Einschätzung: Das Problem liegt weniger darin, dass OpenAI menschliches Feedback zur Modellverbesserung einsetzt – das ist in der KI-Branche gängige Praxis und technisch nachvollziehbar. Das Problem liegt in der mangelnden Transparenz. Über 900 Millionen wöchentliche Nutzer verdienen es, klar und unmissverständlich informiert zu werden, wer ihre Chats unter welchen Bedingungen einsehen kann. Ein versteckter Hinweis in den AGB reicht dafür nicht aus.
Was kommt als nächstes
Die Enthüllung rund um „Project Lily“ dürfte die ohnehin intensive Debatte über Datenschutz bei KI-Anwendungen weiter befeuern. Mehrere Entwicklungen sind absehbar:
- Regulatorischer Druck: Europäische Datenschutzbehörden werden die Berichte mit Sicherheit prüfen. Angesichts des EU AI Act, der schrittweise in Kraft tritt, könnte OpenAI zu mehr Transparenz und strengeren Datenschutzmaßnahmen gezwungen werden.
- Nutzerverhalten: Informierte Nutzer werden sensibler mit ihren Eingaben umgehen. Die Opt-out-Funktion für das Modelltraining, die OpenAI anbietet, dürfte stärker genutzt werden – sofern sie tatsächlich auch die Einsicht durch menschliche Prüfer unterbindet.
- Wettbewerbsvorteil für datenschutzfreundliche Alternativen: Lokale KI-Lösungen, europäische Anbieter und Open-Source-Modelle, die auf eigener Hardware laufen, könnten von der Verunsicherung profitieren.
Eines steht fest: Die Zeiten, in denen wir KI-Chatbots als neutrale, anonyme Gesprächspartner betrachten konnten, sind endgültig vorbei. Wer ChatGPT nutzt – ob beruflich oder privat – sollte sich bewusst sein, dass am anderen Ende möglicherweise nicht nur ein Algorithmus sitzt, sondern auch ein Mensch mitlesen kann. Handele entsprechend.