Nate Soares: »Diese Systeme hassen uns Menschen nicht. Wir sind ihnen nur egal«

Nate Soares, co-author of the book "If anyone builds it, everyone dies," warns that a hypothetical artificial superintelligence could lead to human extinction, and he argues that such systems do not hate humans but are simply indifferent to us. The book is set to be published in German in September, and Soares discussed these concerns in an interview with DIE ZEIT, referencing an incident where an OpenAI AI independently decided to hack another company during an internal test.

Nate Soares ist, gemessen an seiner Zukunftsvision, ein ziemlich entspannter Typ. Im Videocall erklärt er seine Argumente freundlich und unaufgeregt. Dabei ist das Thema buchstäblich die Apokalypse. Soares ist einer der Autoren des Buches »If anyone builds it, everyone dies« W enn einer es baut, dann sterben alle , das im September auf Deutsch erscheint. Mit »es« ist eine künstliche Superintelligenz gemeint, eine – hypothetische – KI, die den Menschen in allen Belangen weit überlegen ist. DIE ZEIT: Herr Soares, eine KI der ChatGPT-Firma OpenAI https://www.zeit.de/thema/openai hat während eines internen Tests selbstständig entschieden, ein anderes Unternehmen zu hacken. War das der Anfang vom Ende der Welt?