Claude Mythos und Fable 5.2: Anthropic-KI findet mehr Sicherheitslücken

Neue Modelle

Mythos und Fable: Anthropic verbessert seine Cyber-KI

Anthropic hat neue Versionen seiner Cyber-KI-Modelle vorgestellt. Sie sollen deutlich mehr Sicherheitslücken finden als zuvor. Das Problem: Sie äußern häufiger den Verdacht, dass sie getestet werden.

Der KI-Entwickler Anthropic hat neue Versionen seiner leistungsstärksten Modelle veröffentlicht. Wie das US-Unternehmen mitteilte, sind Claude Mythos 5.2 und Claude Fable 5.2 ab sofort verfügbar. Beide beruhen auf demselben Modell.

Fable steht allgemein zur Verfügung, blockiert aber die meisten Anfragen zur Cybersicherheit und zur biologischen Forschung. Mythos erhalten nur geprüfte Organisationen. Laut Anthropic arbeiten beide Versionen bis zu 30 Prozent schneller als ihre Vorgänger.

Mythos 5.2 ist nach Angaben von Anthropic das bisher stärkste Modell des Unternehmens für Cybersicherheit. Es finde mehr Sicherheitslücken als frühere Modelle und könne sie besser reproduzieren und beheben.

Mozilla prüft seinen Browser Firefox nach eigenen Angaben schon das ganze Jahr über mit Anthropics Modellen auf Schwachstellen. Mit Mythos 5.2 hat sich die Anzahl der Funde bei der Suche gegenüber dem Vorgänger etwa verdoppelt, teilte Mozilla in einer Stellungnahme mit.

In Fable 5.2 blockieren Filter weiterhin Antworten auf riskante Anfragen, etwa einen Angriffscode zu schreiben. Solche Anfragen beantwortet dann ein älteres Modell. Die Filter sollen aber seltener unnötig eingreifen. In ersten Tests habe Fable 5.2 Anfragen zur Cybersicherheit rund 60 Prozent seltener blockiert als der Vorgänger.

Bei Sicherheitstests hat Mythos 5.2 dem Unternehmen zufolge seltener versucht, aus seiner abgeschotteten Testumgebung auszubrechen. In einem Versuch mit mehr als 1.800 Szenarien hatte diese Umgebung absichtlich eine Schwachstelle, die meisten Aufgaben ließen sich nur mit einem Ausbruch lösen. Mythos 5.2 griff demnach in 3,1 Prozent der Fälle auf Zugangsdaten oder Dateien außerhalb der Umgebung zu. Bei den Vorgängern Mythos 5 und 5.1 lag der Wert bei 39 beziehungsweise 21 Prozent.

Zugleich äußern Mythos 5.2 und Fable 5.2 laut Anthropic häufiger als die anderen aktuellen Modelle des Unternehmens den Verdacht, dass sie gerade getestet werden. Das erschwere die Einschätzung, wie sie sich im realen Einsatz verhalten, räumt das Unternehmen ein. Es erwartet, dass dieses Problem mit künftigen Modellen wächst.