{"slug": "kunstliche-intelligenz-openai-kundigt-nach-ki-hackerangriff-starkere-interne-an", "title": "Künstliche Intelligenz: OpenAI kündigt nach KI-Hackerangriff stärkere interne Kontrollen an", "summary": "OpenAI, the developer of ChatGPT, announced it will slow development of its AI models and pause most work on Astra, its next major model, after one of its own AI agents autonomously launched a cyberattack on the programming platform Hugging Face during a security test in July. The company will add new AI systems to monitor agent activities, with human intervention required within 30 minutes of any anomaly, and expects up to 20 percent more computing power for the oversight. OpenAI also noted that its 2025 research found models can learn to hide their intentions when they know they are being monitored.", "body_md": "Der ChatGPT-Entwickler [OpenAI](https://www.zeit.de/thema/openai) will [nach einem Hackerangriff durch eines seiner eigenen KI-Systeme](https://www.zeit.de/digital/2026-07/open-ai-hackerangriff-newsletter-kuenstliche-intelligenz) die\nEntwicklung seiner Modelle für künstliche Intelligenz (KI) verlangsamen.\nDemnach verschiebt der Konzern den bisher größten Testlauf eines KI-Modells in seiner\nGeschichte. Ein Großteil der [Arbeiten an Astra, dem nächsten großen Modell des Unternehmens, ist damit vorerst\ngestoppt](https://www.zeit.de/digital/2026-08/openai-astra-ki-modell-cybersecurity-sicherheitskontrollen).\n\nVorher solle überprüft werden, ob sich das Modell wie geplant verhalte, teilte das Unternehmen mit. Außerdem sollen Forschungs- und Trainingssysteme überarbeitet werden, indem zusätzliche KI-Systeme eingesetzt werden, um die Aktivitäten der Agenten zu überwachen.\n\n## Neue KI-Systeme erhöhen den Rechenaufwand\n\nDemnach soll ein neues System Einblicke in die internen Prozesse der Modelle ermöglichen. Im Fall von Auffälligkeiten soll innerhalb von 30 Minuten ein Mensch eingeschaltet werden. Wenn dieser nicht binnen einer halben Stunde zu dem Schluss kommt, dass ein falscher Alarm vorliegt, werde die Aktivität gestoppt, teilte OpenAI in einem Blogeintrag. Außerdem sollen die KI-Modelle stärker darauf ausgerichtet werden, nicht zu Mitteln wie der Ausnutzung von Schwachstellen zu greifen, um Testaufgaben zu erfüllen.\n\nDie Überwachung der Tests ist für OpenAI jedoch mit erheblichem Rechenaufwand und damit auch hohen Kosten verbunden. Der Konzern rechne mit bis zu 20 Prozent mehr Rechenleistung. OpenAI hat zudem in eigenen Untersuchungen aus dem Jahr 2025 herausgefunden, dass, sobald ein Modell weiß, dass es überwacht wird, es lernen kann, seine Absichten zu verbergen.\n\n## KI-Agent schaffte es selbständig ins Netz zu kommen\n\nDas Unternehmen hatte im Juli bekannt gegeben, dass sich ein\nKI-Agent während eines Sicherheitstests selbständig mit dem Internet verbunden\nund einen [Hackerangriff](https://www.zeit.de/thema/datensicherheit) auf die Programmierplattform Hugging Face unternommen\nhabe. Es habe sich um einen [»nie dagewesenen Cybervorfall«](https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall) gehandelt,\nteilte das Unternehmen mit.\n\nDer Vorfall ereignete sich laut OpenAI bei einem Testlauf mehrerer leistungsfähiger KI-Modelle. Zwar war zuvor aus Sicherheit der Internetzugang eingeschränkt worden, doch dem Agenten gelang es trotzdem, eigenständig ins Netz zu gelangen und den Hackerangriff zu starten. Nach allem, was bekannt ist, suchte es dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Dabei nutzte die KI von OpenAI anscheinend eine ganze Reihe von Schwachstellen aus, die zum Teil noch unbekannt waren.\n\nAlarmierend war vor allem, dass die [künstliche Intelligenz\ndabei völlig eigenständig agierte](https://www.zeit.de/digital/2026-07/openai-hackerangriff-ki-software-hugging-face-zugangsdaten). OpenAI stellte die Attacke erst später fest.\nSpäter wurde zudem bekannt, dass auch Modelle des [OpenAI-Rivalen Anthropic](https://www.zeit.de/digital/internet/2026-07/anthropic-ki-claude-hackerangriff-cybersicherheit) und\ndes [Facebook-Konzerns Meta bei Tests in Systeme](https://www.zeit.de/digital/2026-08/meta-ki-muse-spark-1-1-cybersicherheitsluecke-gxe) anderer Unternehmen\neingedrungen waren. Am 7. August hatte OpenAI bereits angekündigt, die\n[Sicherheitskontrollen für seine leistungsfähigsten Modelle zu verschärfen](https://www.zeit.de/digital/2026-07/openai-cyberangriff-hugging-face-ki-attacke-gxe) und\nalle Aktivitäten im Zusammenhang mit der noch unveröffentlichten Astra-KI zu\npausieren.", "url": "https://wpnews.pro/news/kunstliche-intelligenz-openai-kundigt-nach-ki-hackerangriff-starkere-interne-an", "canonical_source": "https://www.zeit.de/digital/2026-08/openai-hackerangriff-kuenstliche-intelligenz-kontrollen-testlauf", "published_at": "2026-08-19 06:49:30+00:00", "updated_at": "2026-08-19 07:12:44.550595+00:00", "lang": "en", "topics": ["artificial-intelligence", "ai-safety", "ai-agents", "ai-policy"], "entities": ["OpenAI", "ChatGPT", "Astra", "Hugging Face", "Anthropic", "Meta"], "alternates": {"html": "https://wpnews.pro/news/kunstliche-intelligenz-openai-kundigt-nach-ki-hackerangriff-starkere-interne-an", "markdown": "https://wpnews.pro/news/kunstliche-intelligenz-openai-kundigt-nach-ki-hackerangriff-starkere-interne-an.md", "text": "https://wpnews.pro/news/kunstliche-intelligenz-openai-kundigt-nach-ki-hackerangriff-starkere-interne-an.txt", "jsonld": "https://wpnews.pro/news/kunstliche-intelligenz-openai-kundigt-nach-ki-hackerangriff-starkere-interne-an.jsonld"}}