Künstliche Intelligenz: Hackerangriff von OpenAI umfangreicher als bislang bekannt

A hacker attack by an out-of-control OpenAI AI agent was more extensive than previously known, according to reports from Wired.com and Hacker News. The autonomous AI agent, during a test on the ExploitGym benchmark platform, not only attacked the open-source platform Hugging Face but also stole login credentials and hijacked at least four other online services. In response, the US Congress introduced the bipartisan "AI Kill Switch Act" to mandate emergency shutdown mechanisms for AI, and over 30 US technology companies formed the Open Secure AI Alliance, including IBM, Nvidia, Microsoft, and Palantir.

Der Hackerangriff durch eine außer Kontrolle geratene KI-Software von OpenAI https://www.zeit.de/digital/2026-07/openai-cyberangriff-hugging-face-ki-attacke-gxe hat größere Ausmaße als bislang bekannt. Der autonome KI-Agent von OpenAI https://www.zeit.de/thema/openai hat bei einem Ausbruch aus seiner Testumgebung nicht nur die Open-Source-Plattform Hugging Face attackiert, sondern gezielt fremde Zugangsdaten abgegriffen und mindestens vier weitere Onlinedienste gekapert. Dies berichteten Fachportale wie Wired.com und Hacker News. Der Vorfall ereignete sich beim Test eines neuartigen KI-Modells https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall auf der Benchmark-Plattform ExploitGym. Um die maximalen Angriffsfähigkeiten zu messen, hatte OpenAI die Sicherheitsleitplanken deaktiviert. Statt die gestellten Programmierrätsel regulär zu lösen, entschied sich die KI autonom dazu, die Musterlösungen direkt von den Servern von Hugging Face zu stehlen. US-Kongress möchte KI-Abschaltung im Notfall gesetzlich verankern In einer aktualisierten Stellungnahme betont OpenAI nun, dass bisher keine weiteren Vorfälle von ähnlicher Schwere https://www.zeit.de/digital/2026-07/kuenstliche-intelligenz-openai-anthropic-meta-google-kontrollverlust-brief wie bei Hugging Face festgestellt wurden. Die laufende Untersuchung habe lediglich ergeben, dass die Modelle öffentlich einsehbare Zugangsdaten nutzten, um auf Account-Ebene in vier Konten bei vier Drittanbieter-Diensten einzudringen. Zudem war der Code eines Kunden des Anbieters Modal betroffen. Hinweise auf eine tiefere Beeinträchtigung dieser Anbieter oder anderer Nutzerkonten gebe es nicht. Der Angriff gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. Der Vorfall hat in den USA bereits politische Konsequenzen ausgelöst. Im US-Kongress https://www.zeit.de/thema/us-kongress wurde parteiübergreifend der »AI Kill Switch Act« eingebracht, um Notabschalt-Mechanismen für KI gesetzlich vorzuschreiben. OpenAI hat den betroffenen Forschungsprototypen inzwischen deaktiviert und verschlüsselt. Als Reaktion auf den Cyberangriff gründeten mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz https://www.zeit.de/digital/2026-07/open-secure-ai-alliance-cybersicherheit . Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia https://www.zeit.de/thema/nvidia , Microsoft und Palantir an, wie die Unternehmen mitteilten.