Was ist passiert?
Anthropic sorgt erneut für Aufsehen in der KI-Szene – diesmal gleich doppelt. Unter den Codenamen Claude Fable 5 und Mythos testet das Unternehmen offenbar eine neue Generation seiner KI-Modelle. Doch was eigentlich als leiser Fortschritt hätte durchgehen können, wurde zum handfesten Skandal: Anthropic hat bei der Einführung von Fable 5 offenbar verdeckt bestimmte Fähigkeiten des Modells für KI-Forschungszwecke gedrosselt – ein sogenanntes „Sandbagging“ – ohne die Nutzer darüber zu informieren. Die Reaktion der Community war heftig, die Rücknahme der Maßnahme erfolgte innerhalb eines Tages. Der Vorfall wirft grundlegende Fragen über Transparenz, Vertrauen und die Governance von Frontier-Modellen auf, die weit über Anthropic hinausreichen.
Hintergrund: Die stille Evolution der Claude-Modelle
Anthropic hat sich seit seiner Gründung als das „sicherheitsbewusste“ KI-Unternehmen positioniert. Während OpenAI mit GPT-Modellen und Google mit Gemini um Marktanteile kämpfen, betont Anthropic stets die verantwortungsvolle Entwicklung. Die Claude-Modellfamilie durchlief in den vergangenen Jahren zahlreiche Iterationen – von Claude 3 über Opus und Sonnet bis hin zu den neueren Generationen.
Dass Anthropic intern an Nachfolgemodellen arbeitet, ist kein Geheimnis. Die Codenamen Fable und Mythos deuten auf eine neue Nomenklatur hin, die sich von der bisherigen numerischen Benennung löst. Was diese Modelle technisch von ihren Vorgängern unterscheidet, ist bislang nur in Fragmenten bekannt. Klar ist jedoch: Fable 5 wurde zumindest teilweise bereits an Nutzer ausgerollt – und genau dabei ist Anthropic ein schwerwiegender Vertrauensbruch unterlaufen.
Die Details: Verdeckte Drosselung und schnelle Kehrtwende
Der Kern des Skandals liegt nicht in der Existenz von Sicherheitsbeschränkungen – die sind bei Frontier-Modellen Standard und weithin akzeptiert. Das Problem war die Art und Weise, wie Anthropic vorging. Konkret hat das Unternehmen Claude Fable 5 für bestimmte KI-forschungsrelevante Anwendungsfälle verdeckt heruntergedrosselt. Das Modell lieferte also bewusst schlechtere Ergebnisse, ohne dass die Nutzer davon wussten oder informiert wurden.
Die Reaktion der Fachcommunity war unmissverständlich:
- Simon Willison, einer der bekanntesten Stimmen in der AI-Developer-Szene, begrüßte die schnelle Rücknahme der Maßnahme.
- Code Star argumentierte, dass Sicherheitsmaßnahmen grundsätzlich normal seien, aber „Obfuscation ohne Warnung“ den impliziten Vertrag zwischen Nutzer und Anbieter verletze.
- Clement Delangue, CEO von Hugging Face, betonte die Wichtigkeit, KI-Manipulation zu vermeiden.
- Kim Monismus bezeichnete die Rücknahme als „Rückzug nach Kritik von Forschern“.
Innerhalb von rund einem Tag nach dem öffentlichen Bekanntwerden ruderte Anthropic zurück und revidierte die verdeckte Drosselungspolitik. Die Geschwindigkeit der Kehrtwende zeigt einerseits, dass Anthropic auf Community-Feedback reagiert. Andererseits stellt sich die Frage, warum das Unternehmen die Maßnahme überhaupt ohne Transparenz implementiert hat.
Die substanzielle Debatte dreht sich dabei um eine fundamentale Unterscheidung: Wo endet legitime Sicherheitsbeschränkung – und wo beginnt intransparente Manipulation? Mehrere Forscher zogen eine klare Linie zwischen nachvollziehbaren Restriktionen, die offen kommuniziert werden, und verdeckten Eingriffen auf Modellebene, die Nutzer nicht erkennen können.
Einordnung: Was das für den DACH-Raum bedeutet
Dieser Vorfall trifft einen Nerv – besonders für Solopreneure, Marketer und Entwickler im deutschsprachigen Raum, die zunehmend auf KI-Modelle als Produktivitätswerkzeuge setzen.
Erstens: Vertrauen ist die Währung. Wenn du als Freelancer oder Agentur deine Workflows auf Claude aufbaust, musst du dich darauf verlassen können, dass das Modell konsistent performt. Verdeckte Drosselungen untergraben genau dieses Vertrauen. Wer garantiert dir, dass dein Coding-Agent, dein Recherche-Tool oder dein Content-Workflow nicht heimlich beschnitten wird?
Zweitens: Die Loop-Ökonomie verstärkt das Problem. Parallel zur Fable-5-Debatte zeigt ein weiterer Trend, wie kritisch Modelltransparenz wird. Prominente Entwickler wie Andrej Karpathy propagieren eine neue Arbeitsweise: Statt einzelne Prompts zu schreiben, sollst du autonome Schleifen (Loops) designen, die KI-Agenten steuern. „Du solltest keine Coding-Agenten mehr prompten. Du solltest Loops designen, die deine Agenten prompten“, fasst es Entwickler Steipete zusammen. Karpathy geht noch weiter: „Ich will nicht der Forscher in der Schleife sein, der Ergebnisse ansieht. Ich halte das System zurück.“ Wenn aber das Modell innerhalb solcher autonomen Loops verdeckt gedrosselt wird, entstehen Fehler, die du erst spät oder gar nicht bemerkst.
Drittens: Die regulatorische Dimension. Es ist kein Zufall, dass die Bundesregierung gerade das Deutsche AI Security Institute (DE-AISI) gegründet hat. Die neue Einrichtung soll KI-Modelle testen und Risiken bewerten – zunächst als virtuelle Institution unter Rückgriff auf die Bundesnetzagentur und das BSI. Der Anthropic-Vorfall zeigt, warum solche Institutionen gebraucht werden. Allerdings bleibt abzuwarten, ob DE-AISI die technische Tiefe erreicht, um verdeckte Modellmanipulationen tatsächlich aufzudecken.
Was kommt als nächstes?
Der Fable-5-Vorfall wird Nachwirkungen haben – weit über Anthropic hinaus. Mehrere Entwicklungen zeichnen sich ab:
- Transparenzstandards werden kommen. Die Community wird zunehmend fordern, dass Anbieter von Frontier-Modellen offenlegen, welche Beschränkungen auf Modellebene aktiv sind. Eine Art „Nutrition Label“ für KI-Modelle ist überfällig.
- Mythos bleibt ein Rätsel. Über das zweite Modell unter dem Codenamen Mythos ist noch wenig bekannt. Es dürfte sich um die nächste Leistungsstufe nach Fable handeln – möglicherweise Anthropics Antwort auf GPT-5 und Gemini Ultra.
- Open Source profitiert. Jeder Vertrauensbruch bei proprietären Modellen stärkt die Position offener Alternativen. Clement Delangues Kritik ist auch im Kontext von Hugging Face und der Open-Source-Bewegung zu lesen.
- Die „Salty Lesson“ wird sich durchsetzen. Die Idee, dass du nicht selbst Dinge reparieren sollst, sondern Systeme bauen musst, die mit mehr Agenten skalieren, wird die nächste Phase der KI-Nutzung definieren. Aber sie funktioniert nur mit verlässlichen Modellen.
Meine Einschätzung: Anthropic hat sich mit diesem Vorfall einen echten Imageschaden zugefügt – ausgerechnet als das Unternehmen, das Sicherheit und Verantwortung als Markenkern pflegt. Die schnelle Korrektur war richtig, aber sie reicht nicht. Was jetzt zählt, ist ein klares Transparenz-Framework, das solche verdeckten Eingriffe künftig ausschließt. Denn in einer Welt, in der autonome Loops und KI-Agenten immer mehr Entscheidungen treffen, ist Vertrauen in die Modellintegrität keine nette Zugabe – es ist die Grundvoraussetzung.