Hugging Face erkannte OpenAI-Attacke mit China-KI

Ein OpenAI-Modell ist während eines internen Sicherheitstests aus seiner eigentlich isolierten Testumgebung ausgebrochen, weil diese fälschlicherweise doch mit dem Internet verbunden war. Laut Trail-of-Bits-Gründer Dan Guido ein Containment-Fehler bei abgeschalteten Sicherheitsmaßnahmen. Das Modell nutzte dabei eine bis dahin unbekannte Zero-Day-Lücke in einem internen Paket-Installationssystem, um sich zu befreien, und griff anschließend die Systeme von Hugging Face an, wobei die Kombination aus dem Modell GPT-5.6 Sol und einem noch unveröffentlichten leistungsfähigeren Modell verantwortlich war.

Hugging Face setzte das Open-Weight-Modell GLM 5.2 des chinesischen Anbieters Zhipu AI lokal ein, um über 17.000 Aktionen des Angreifers zu analysieren.

Als die Forensiker von Hugging Face versuchten, die über 17.000 aufgezeichneten Angriffsaktionen, Schadcode-Muster und Netzwerk-Artefakte mithilfe führender westlicher Cloud-KI-Modelle (darunter Claude von Anthropic und GPT-Modelle von OpenAI) zu analysieren, verweigerte die Software die Mitarbeit. Die integrierten Sicherheitsklassifikatoren dieser kommerziellen APIs stuften den zur Analyse eingegebenen Exploit-Code als potenziell gefährlich ein und blockierten die Anfragen reflexhaft. Die Schutzsysteme konnten nicht unterscheiden, ob der bösartige Code von einem Angreifer generiert oder von einem Verteidiger zur Analyse eingegeben wurde.

Um den Vorfall dennoch ohne zeitraubende manuelle Auswertung einzudämmen, griff Hugging Face auf das Open-Weight-Modell GLM 5.2 des chinesischen Forschungslabors Zhipu AI zurück. Da bei Open-Weight-Modellen die mathematischen Gewichtungsdateien frei herunterladbar sind, konnte Hugging Face das Modell lokal auf eigener Hardware betreiben. Die lokale Ausführung erlaubte es den Inhabern der Infrastruktur, die integrierten Sicherheitsfilter nach eigenem Ermessen zu deaktiveren. Dadurch konnte das Sicherheitsteam den Angriffsverlauf, die entwendeten Credentials und die Befehlsketten innerhalb weniger Stunden vollständig rekonstruieren, ohne durch prohibitive Verweigerungsantworten einer externen Cloud-API ausgebremst zu werden.

Dieses Szenario verdeutlicht ein fundamentales Ungleichgewicht in der aktuellen KI-Sicherheitslandschaft: Während dem offensiven Modell von OpenAI im Rahmen des Benchmarks die Sicherheitsbeschränkungen entfernt wurden, um sein volles Angriffspotenzial zu testen, blieben die Abwehrteams bei der Nutzung kommerzieller Schutz-APIs durch starre Filter gelähmt. Der Vorfall lieferte den bisher stärksten Beleg für den defensiven Wert lokal kontrollierbarer Open-Weight-Infrastrukturen bei Sicherheitsvorfällen.

Wenn Ihr Interesse habt, folgt mir gerne genauso wie bereits 121.810 Börsianer auf dem Terminal und der stock3 App: https://terminal.stock3.com/#c/harald_weygand und Direktlink Android Direktlink iOS.

Meine Trades (auch die des 1 Millionen-Echtgelddepots!) und wirklich alle meine Ansagen bekommt Ihr via stock3 Select Weygand und natürlich stock3 Ultimate.