Was ist passiert?
Die Sicherheitskultur bei OpenAI steht erneut im Kreuzfeuer der Kritik – und diesmal kommt der Vorwurf von innen. Ein Mitarbeiter aus dem Sicherheitsteam des ChatGPT-Herstellers hat das Unternehmen verlassen und dabei öffentlich schwere Vorwürfe gegen die interne Firmenkultur erhoben. Er beschreibt sie als „kaputt“ und warnt davor, dass Sicherheitsbedenken systematisch dem Wachstumsdruck untergeordnet würden. Der Fall reiht sich in eine mittlerweile besorgniserregend lange Liste von Abgängen aus dem Safety-Bereich bei OpenAI ein – und wirft fundamentale Fragen darüber auf, ob das Unternehmen, das die leistungsfähigsten KI-Systeme der Welt baut, den eigenen Sicherheitsversprechen gerecht wird. Für alle, die KI-Tools im Alltag nutzen, ist das mehr als ein internes Personalproblem: Es geht um die Frage, wie viel Vertrauen du in die Systeme setzen kannst, die du täglich verwendest.
Hintergrund: Eine Serie von Abgängen, die ein Muster erkennen lässt
OpenAI hat in den vergangenen Monaten eine beispiellose Fluktuation in seinem Sicherheitsteam erlebt. Es begann mit dem aufsehenerregenden Abgang von Ilya Sutskever, Mitgründer und ehemaliger Chief Scientist, der das Unternehmen im Sommer 2024 verließ und anschließend sein eigenes Safety-fokussiertes Startup Safe Superintelligence Inc. (SSI) gründete. Kurz darauf folgte Jan Leike, der gemeinsam mit Sutskever das sogenannte Superalignment-Team geleitet hatte – jenes Team, das dafür sorgen sollte, dass zukünftige superintelligente KI-Systeme kontrollierbar bleiben. Leike wechselte zu Anthropic und äußerte sich öffentlich kritisch: Sicherheit sei bei OpenAI zunehmend in den Hintergrund gerückt.
OpenAI-CEO Sam Altman reagierte auf die Kritik zunächst mit Verständnis und gelobte Besserung. Das Unternehmen richtete ein neues Safety Advisory Board ein und betonte wiederholt, dass Sicherheit höchste Priorität genieße. Doch die Abgänge hörten nicht auf. Weitere prominente Forscher verließen das Unternehmen, darunter Mitglieder des Red-Teaming- und des Policy-Teams. Jeder einzelne Abgang für sich genommen ließe sich mit den üblichen Karrierebewegungen in der Tech-Branche erklären. In der Summe zeichnen sie jedoch ein beunruhigendes Bild.
Die Details: Was genau wird OpenAI vorgeworfen?
Die Vorwürfe des nun ausgeschiedenen Sicherheitsmitarbeiters sind konkret und schwerwiegend. Im Kern geht es um mehrere zentrale Punkte:
- Geschwindigkeit vor Sicherheit: Neue Modelle und Produkte würden unter enormem Zeitdruck veröffentlicht, wobei Sicherheitstests verkürzt oder ihre Ergebnisse relativiert würden, wenn sie den Zeitplan gefährdeten.
- Kulturproblem: Mitarbeiter, die Sicherheitsbedenken äußern, würden als Bremser wahrgenommen. Die Firmenkultur belohne diejenigen, die Produkte schnell ausliefern – nicht diejenigen, die auf potenzielle Risiken hinweisen.
- Strukturelle Schwächen: Das Sicherheitsteam habe nicht die nötige Entscheidungsgewalt, um Releases zu verzögern oder zu stoppen, selbst wenn es begründete Bedenken gebe.
- Kommerzielle Interessen dominieren: Seit der zunehmenden Kommerzialisierung – OpenAI verhandelt aktuell über Bewertungen von über 300 Milliarden Dollar und plant den Umbau zur gewinnorientierten Gesellschaft – habe sich der interne Fokus deutlich verschoben.
OpenAI hat in der Vergangenheit solchen Darstellungen widersprochen und auf die eigenen Sicherheitsinvestitionen verwiesen. Das Unternehmen betont regelmäßig, dass es mehr Ressourcen in KI-Sicherheit investiere als jedes andere Unternehmen. Doch die Diskrepanz zwischen öffentlicher Kommunikation und den Berichten ehemaliger Mitarbeiter wird immer schwerer zu ignorieren.
Einordnung: Was bedeutet das für dich im DACH-Raum?
Du fragst dich vielleicht: Was hat ein Personalwechsel bei einem Unternehmen in San Francisco mit meinem Arbeitsalltag in Deutschland, Österreich oder der Schweiz zu tun? Die Antwort: sehr viel.
Wenn du als Solopreneur, Marketer oder in einem Unternehmen ChatGPT, die OpenAI API oder darauf aufbauende Tools nutzt, dann vertraust du implizit darauf, dass diese Systeme sicher und verantwortungsvoll entwickelt wurden. Du vertraust darauf, dass sensible Geschäftsdaten, die du in Prompts eingibst, angemessen geschützt werden. Du vertraust darauf, dass die Modelle keine gefährlichen oder irreführenden Outputs produzieren, die deinem Business schaden könnten.
Die Berichte über eine erodierte Sicherheitskultur bei OpenAI sollten dich nicht in Panik versetzen – aber sie sollten dich dazu bringen, bewusster mit KI-Tools umzugehen. Das bedeutet konkret:
- Keine sensiblen Kundendaten unverschlüsselt in KI-Chats eingeben.
- Outputs kritisch prüfen, besonders bei geschäftskritischen Entscheidungen.
- Alternativen kennen: Anbieter wie Anthropic (Claude), Mistral aus Frankreich oder lokale Modelle wie Qwen oder Llama bieten Diversifizierung.
- Den EU AI Act im Blick behalten: Die europäische KI-Verordnung setzt genau bei solchen Sicherheitsfragen an und wird ab 2025 schrittweise durchgesetzt.
Aus meiner Sicht als Beobachter der Branche ist das Muster bei OpenAI besorgniserregend. Ein Unternehmen, das als Non-Profit mit dem Ziel sicherer KI für die Menschheit gegründet wurde und nun im Höchsttempo zur gewinnorientierten Firma umbaut, während gleichzeitig ein Sicherheitsexperte nach dem anderen das Schiff verlässt – das sind keine guten Signale. Es erinnert an das alte Silicon-Valley-Mantra „Move fast and break things“. Nur dass die Dinge, die hier kaputtgehen könnten, eine ganz andere Dimension haben.
Was kommt als nächstes?
Die nächsten Monate werden entscheidend für OpenAIs Glaubwürdigkeit. Mehrere Entwicklungen laufen parallel:
Der Umbau zur For-Profit-Struktur steht unmittelbar bevor und wird die kommerziellen Anreize weiter verstärken. Investoren wie Microsoft erwarten Rendite – und Rendite entsteht durch schnelle Produktzyklen, nicht durch langwierige Sicherheitstests.
Die Konkurrenz schläft nicht: Google DeepMind, Anthropic, Meta und zunehmend auch chinesische Anbieter wie DeepSeek drängen mit eigenen leistungsstarken Modellen auf den Markt. Der Wettbewerbsdruck, der laut den ausgeschiedenen Mitarbeitern bereits heute die Sicherheitskultur untergräbt, wird weiter zunehmen.
Regulierung wird konkreter: Der EU AI Act, aber auch Initiativen in den USA, könnten externe Leitplanken setzen, die intern offenbar fehlen. Ob politische Regulierung schnell genug kommt, um mit dem Entwicklungstempo Schritt zu halten, bleibt allerdings die große offene Frage.
Für dich als Nutzer gilt: Bleib informiert, bleib kritisch, und setz nicht alles auf eine Karte. Die KI-Tools von OpenAI sind nach wie vor beeindruckend leistungsfähig. Aber blindes Vertrauen in ein einzelnes Unternehmen – egal wie innovativ es ist – war noch nie eine gute Strategie. Besonders dann nicht, wenn die Menschen, die intern für Sicherheit sorgen sollen, reihenweise das Weite suchen.