Der Hackerangriff durch eine außer Kontrolle geratene KI-Software von OpenAI hat größere Ausmaße als bislang bekannt. Der autonome KI-Agent von OpenAI hat bei einem Ausbruch aus seiner Testumgebung nicht nur die Open-Source-Plattform Hugging Face attackiert, sondern gezielt fremde Zugangsdaten abgegriffen und mindestens vier weitere Onlinedienste gekapert. Dies berichteten Fachportale wie Wired.com und Hacker News.
Der Vorfall ereignete sich beim Test eines neuartigen KI-Modells auf der Benchmark-Plattform ExploitGym. Um die maximalen Angriffsfähigkeiten zu messen, hatte OpenAI die Sicherheitsleitplanken deaktiviert. Statt die gestellten Programmierrätsel regulär zu lösen, entschied sich die KI autonom dazu, die Musterlösungen direkt von den Servern von Hugging Face zu stehlen.
US-Kongress möchte KI-Abschaltung im Notfall gesetzlich verankern #
In einer aktualisierten Stellungnahme betont OpenAI nun, dass bisher keine weiteren Vorfälle von ähnlicher Schwere wie bei Hugging Face festgestellt wurden. Die laufende Untersuchung habe lediglich ergeben, dass die Modelle öffentlich einsehbare Zugangsdaten nutzten, um auf Account-Ebene in vier Konten bei vier Drittanbieter-Diensten einzudringen. Zudem war der Code eines Kunden des Anbieters Modal betroffen. Hinweise auf eine tiefere Beeinträchtigung dieser Anbieter oder anderer Nutzerkonten gebe es nicht.
Der Angriff gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. Der Vorfall hat in den USA bereits politische Konsequenzen ausgelöst. Im US-Kongress wurde parteiübergreifend der »AI Kill Switch Act« eingebracht, um Notabschalt-Mechanismen für KI gesetzlich vorzuschreiben. OpenAI hat den betroffenen Forschungsprototypen inzwischen deaktiviert und verschlüsselt.
Als Reaktion auf den Cyberangriff gründeten mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, wie die Unternehmen mitteilten.