Mehr als 1.000 Mitarbeiterinnen und Mitarbeiter führender KI-Firmen haben eine bei der Entwicklung künstlicher Intelligenz gefordert. Sie warnten vor einem Kontrollverlust und appellierten an die US-Regierung, sich an internationalen Bemühungen für Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen. Unter den bislang 1.171 Unterzeichnern waren Mitarbeiter der Unternehmen OpenAI, Anthropic, Meta und Google.
Die Unterzeichner warnten davor, dass Software mit künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln. Bereits jetzt werden große Teile des Programmiercodes in Unternehmen von KI-Software geschrieben. Dies erfolgt jedoch unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt.
Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein »reales Risiko«, dass das Tempo »unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren«, hieß es. Abgestimmte internationale Anstrengungen seien nötig, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen. Zudem fehlten noch die technischen Mittel und ein Regelwerk dafür.
KI-Hackerangriff als Weckruf #
Der offene Brief folgte auf einen beispiellosen Zwischenfall, der in großen Teilen der Branche als Weckruf gesehen wird. Ein KI-Modell von OpenAI hatte sich bei einem Test zuletzt eigenständig Zugang zum offenen Internet verschafft und war danach auf eigene Faust in Computersysteme einer anderen KI-Firma eingedrungen. Dabei agierte die Software wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus. Der Angriff gilt als erster bekannt gewordener Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat.