Die US-Regierung hat Anthropic angewiesen, die KI-Modelle Fable 5 und Mythos 5 sofort für alle Nutzer zu deaktivieren. Der Grund: Sicherheitsbeamte befürchten, dass eine Methode zum Umgehen der Schutzmaßnahmen bekannt geworden ist. Anthropic argumentiert, dass die eigenen Sicherheitsvorkehrungen branchenweit führend sind – und dass perfekte Jailbreak-Resistenz derzeit unmöglich sei.
Die Sperrung betrifft auch Anthropic-Mitarbeiter mit ausländischer Staatsbürgerschaft und gilt weltweit. Die Regierung lieferte keine detaillierten Begründung. Anthropic demonstrierte gegenüber Behörden, dass die identifizierte Sicherheitslücke eher gering ausfällt und auch andere öffentlich verfügbare Modelle ähnliche Schwachstellen aufweisen. Das Unternehmen hatte vor der Veröffentlichung intensive Sicherheitstests mit US-Behörden, britischen Experten und privaten Organisationen durchgeführt und ein mehrschichtiges Sicherheitskonzept implementiert – inklusive Überwachung und 30-Tage-Datenspeicherung zur schnellen Reaktion auf Angriffe.