Neue Claude-KI gibts nur mit Einschränkungen

• Anthropic hat am 9. Juni Fable 5 veröffentlicht: eine stark abgesicherte Version von Claude, die bewusst Leistungsfähigkeit gegen Sicherheit eintauscht.
• Wegen des hohen Dual-Use-Risikos (u. a. Biowaffen, gefährliche Chemikalien, Cyberangriffe) bleibt die volle Leistungsfähigkeit der breiten Öffentlichkeit vorenthalten.
• Die US-Regierung hat Anfang Juni mit einer neuen Executive Order ein freiwilliges Sicherheitsprüfverfahren für frontier models eingeführt.

Das KI-Unternehmen Anthropic hat am 9. Juni eine neue Version von Claude namens Fable 5 veröffentlicht. Diese Anwendung der Künstlichen Intelligenz ist technologisch so fortgeschritten, dass sie nur in einer Light-Version in die Öffentlichkeit geht. Auch die US-Regierung reagiert und zieht für Künstliche Intelligenz ein neues Sicherheitsnetz ein.

Die neue Version von Claude kann deutlich mehr als Texte schreiben oder Fragen beantworten. Sie arbeitet als intelligenter Agent. Das System kann komplexe Projekte planen, Recherchen übernehmen, Daten auswerten und Codes schreiben. Außerdem kann es Aufgaben über viele Schritte hinweg weitgehend selbstständig bearbeiten. Sowohl die Automatisierung als auch die Tiefe der Analyse und die Zusammenarbeit verschiedener Agenten innerhalb von Claude stellen eine völlig neue Stufe im Bereich KI dar.

Genau diese hohe Leistungsfähigkeit macht das neue Claude jedoch offenbar so gefährlich, dass die uneingeschränkte Version nicht für die breite Öffentlichkeit freigegeben wird, wie NIUS bereits im April berichtet hatte. Stattdessen hat Anthropic jetzt eine stark abgesicherte Variante für normale Nutzer veröffentlicht.

Anthropic bezeichnet seine neue Claude-Version als zu gefährlich. Daher geht nun eine Light-Version in die Öffentlichkeit: Fable 5.

Fable 5 und Mythos 5: zwei Versionen, zwei Welten

Die abgesicherte neue Version von Claude wurde als Fable 5 vorgestellt und erkennt automatisch sensible Themen, beispielsweise aus den Bereichen Cybersecurity, Biologie und Chemie. Werden sensible Anfragen erkannt, leitet die Software diese an das schwächere Vorgängermodell weiter, das nicht so tiefe und weitführende Antworten gibt.

Nutzer werden darüber informiert, wenn das passiert. Die stärkere neue Version von Claude, Mythos 5, nutzt exakt dasselbe KI-Basismodell. Diese nicht in eine Zwangsjacke verpresste Version steht aber nur einer kleinen Gruppe von Cyber-Defendern und Betreibern kritischer Infrastruktur zur Verfügung.

Was Nutzer täglich erleben

Viele Nutzer, die das unkritischere Fable 5 bereits getestet haben, berichten durch die neuen Sicherheitsmechanismen von deutlichen Einschränkungen in der Nutzung von Claude. Besonders bei allem, was mit Biologie, Chemie oder Medizin zu tun hat, blockt oder leitet das Modell sehr schnell weiter, oftmals auch bei harmlosen wissenschaftlichen oder beruflichen Anfragen.

Auch bei technischen Arbeiten, etwa der Überprüfung von Datenschutzhinweisen oder Forschungsarbeiten zu Linux-Kernel-Optimierungen ohne Sicherheitsbezug, stoppt Fable 5 häufig mitten in der Aufgabe. Viele Nutzer berichten daher auf X von ihrem Eindruck, dass die Sicherheitsfilter aktuell zu breit greifen und auch normale Inhalte fälschlicherweise als riskant einstufen.

Fable 5 safety filter is crazy. I ran a security, vulnerability, bug, performance, and privacy audit on my personal internal project, and it gave me a list of 13 security issues, 10 logic issues, 6 performance issues, and 6 privacy issues.

But before I could even ask it to fix… pic.twitter.com/Bsz2gwI5fy

— AshutoshShrivastava (@ai_for_success) June 10, 2026

Ein verantwortungsvoller, aber unbequemer Weg

Diese Einschränkungen mögen für viele Nutzer ärgerlich sein und ihre praktische Arbeit behindern. Dennoch ist der Ansatz von Anthropic in einem entscheidenden Punkt herausragend: Das Unternehmen nimmt die Risiken dieser neuen Technologie offenbar strukturell ernst und stellt Sicherheit bewusst über maximale Nutzerfreundlichkeit.

Angesichts der enormen Leistungsfähigkeit von Fable 5 ist diese Zurückhaltung als verantwortungsvoll zu bewerten. Anthropic zeigt damit, dass es bereit ist, kommerzielle und nutzerseitige Nachteile in Kauf zu nehmen, um eventuellen schwerwiegenden Missbrauch zu verhindern.

Der Grund für die strenge Zwangsjacke

Hinter diesen Maßnahmen steht die berechtigte Sorge, dass ein Modell mit dieser Leistungsfähigkeit nicht nur bei der Entwicklung neuer Medikamente und Therapien helfen kann, sondern theoretisch auch bei der Konstruktion von Biowaffen, Krankheitserregern oder gefährlichen chemischen Substanzen missbraucht werden könnte.

Denn am Ende ist Claude mittlerweile ein System, das ganze Forschungsprogramme weitgehend autonom steuern kann und in dem viele einzelne Agenten über lange Strecken autonom forschen und sich untereinander abstimmen. Durch diese agentenbasierte Arbeitsweise, bei der ganze Forschungsprogramme weitgehend autonom ablaufen können, wird dieses Dual-Use-Risiko grundsätzlich größer. 

US-Regierung: freiwillige Prüfung statt Zwang

Die US-Regierung hat auch mit Blick auf den gegenwärtigen KI-Boom in den USA und die enormen Fähigkeiten dieser KI Anfang Juni mit einer neuen Executive Order ein freiwilliges Rahmenwerk für die Prüfung hochleistungsfähiger KI-Modelle etabliert („Promoting Advanced Artificial Intelligence Innovation and Security“ vom 2. Juni 2026). Entwickler können ihre „frontier models“ hier bis zu 30 Tage vor der Veröffentlichung der Regierung zur Sicherheitsprüfung vorlegen, um potenzielle Risiken wie Cyberangriffe oder Missbrauch in sensiblen Bereichen frühzeitig zu erkennen und zu entschärfen.

Es handelt sich dabei ausdrücklich nicht um eine verpflichtende Zulassung oder Lizenzierung, sondern um eine kooperative Zusammenarbeit, die Innovation fördern und gleichzeitig nationale Sicherheitsinteressen schützen soll. Ob dieser Ansatz trägt, wird die Zukunft zeigen. Immerhin hat die US-Regierung hier jedoch innerhalb weniger Wochen mit einer flexiblen und beeindruckend schnellen Regulierung geantwortet.

China und andere autoritäre Systeme

Die Frage bleibt jedoch, ob alle Anbieter weltweit ähnlich verantwortungsvoll handeln und kontrolliert werden. In China sind mit Qwen von Alibaba, DeepSeek und weiteren starken Modellen wie Baidus Ernie derzeit mehrere hochleistungsfähige alternative KI-Systeme auf dem Markt.

In den letzten drei Jahrzehnten wurde China von der Weltwirtschaft in Bereichen wie Patentrecht, Technologieeinsatz und Bioforschung häufig als besonders rücksichtslos wahrgenommen. Besonders bekannt ist dabei das umfassende Überwachungssystem unter dem Namen Sozialkreditsystem in Kombination mit dem flächendeckenden Kameranetzwerk Skynet. Vor diesem Hintergrund stellt sich umso dringlicher die Frage, wie rücksichtslos dort auch bei der Entwicklung und dem Einsatz von KI vorgegangen wird, während westliche Anbieter unter regulatorischem Druck stehen, Verantwortung zu übernehmen.

In autoritären Systemen fehlt oft der gesellschaftliche und regulatorische Druck, solche Sicherheitsvorkehrungen überhaupt einzuführen. Mangelnde demokratische Kontrolle spielt auch eine Rolle. Dieser Hintergrund macht den vorsichtigen Kurs von Anthropic noch bedeutsamer: Er ist nicht nur technisch begründet, sondern auch Ausdruck einer demokratischen Verantwortungskultur, die in anderen politischen Systemen nicht selbstverständlich ist.

Normalerweise würden wir diese Analyse damit schließen, dass sich in den nächsten Monaten zeigen wird, ob diese Balance zwischen Leistungsfähigkeit und Sicherheit halten kann. Gewöhnen müssen wir uns jedoch bald daran, dass die KI-Entwicklung nach aller Erwartung schon sehr bald im Wochenrhythmus solche fundamentalen Innovationen wie jetzt Fable 5 hervorbringen wird.