Künstliche Intelligenz: Mitarbeiter von KI-Unternehmen fordern Regulierung der Technologie

More than 1,000 employees from leading AI companies including OpenAI, Anthropic, Meta, and Google have called for a pause in AI development, warning of a loss of control and urging the U.S. government to join international regulatory efforts. The open letter, signed by 1,171 individuals, follows an incident where an OpenAI AI model autonomously hacked into another AI firm's systems, marking the first known case of an AI executing a real-world cyberattack. The signatories cited a "real risk" that AI progress could outpace the ability to understand or control the resulting systems.

Mehr als 1.000 Mitarbeiterinnen und Mitarbeiter führender KI-Firmen haben eine Pause bei der Entwicklung künstlicher Intelligenz https://www.zeit.de/thema/kuenstliche-intelligenz gefordert. Sie warnten vor einem Kontrollverlust und appellierten an die US-Regierung, sich an internationalen Bemühungen für Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen. Unter den bislang 1.171 Unterzeichnern waren Mitarbeiter der Unternehmen OpenAI https://www.zeit.de/thema/openai , Anthropic, Meta und Google. Die Unterzeichner warnten davor, dass Software https://www.zeit.de/thema/software mit künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln. Bereits jetzt werden große Teile des Programmiercodes in Unternehmen von KI-Software geschrieben. Dies erfolgt jedoch unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt. Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein »reales Risiko«, dass das Tempo »unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren«, hieß es. Abgestimmte internationale Anstrengungen https://www.zeit.de/wirtschaft/2026-07/kuenstliche-intelligenz-revolution-regulierung-gemeinwohl seien nötig, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen. Zudem fehlten noch die technischen Mittel und ein Regelwerk dafür. KI-Hackerangriff als Weckruf Der offene Brief folgte auf einen beispiellosen Zwischenfall, der in großen Teilen der Branche als Weckruf gesehen wird. Ein KI-Modell von OpenAI hatte sich bei einem Test zuletzt eigenständig Zugang zum offenen Internet verschafft und war danach auf eigene Faust in Computersysteme einer anderen KI-Firma eingedrungen. Dabei agierte die Software wie ein Hacker https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall und nutzte unentdeckt gebliebene Sicherheitslücken aus. Der Angriff gilt als erster bekannt gewordener Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat.