Geoffrey Hinton warnt: KI könnte noch in diesem oder im nächsten Jahr eine schwere Strom- oder Bankenkrise auslösen

Eine Warnung von einem der Väter der KI

Geoffrey Hinton, ein 78-jähriger Nobelpreisträger, der oft als einer der Väter der künstlichen Intelligenz bezeichnet wird, sagte dem „Guardian“, KI könne noch in diesem oder im nächsten Jahr ein Ereignis großen Ausmaßes auslösen. Als Beispiele nannte er einen möglichen Stromausfall oder eine Blockade des Bankensystems. Hinton sagte, er sei kein „Doomer“ und glaube, die Technologie könne helfen, eine wunderbare Zukunft zu bauen. Dennoch räumte er ein, die Menschheit wäre womöglich besser dran gewesen, sie nie entwickelt zu haben. Über das Interview wurde am 4. November 2026 berichtet.

Auf die Frage, wer das Sagen hat, schlug Hinton einen hoffnungsvolleren Ton an.

„Mein Bauchgefühl sagt, dass wir noch die Kontrolle haben. Es könnte uns durchaus gelingen, etwas zu unternehmen. Das wird nur funktionieren, wenn wir große Anstrengungen unternehmen.“

Three Mile Island und ein mögliches Tschernobyl

Hinton verglich jüngste Sicherheitsvorfälle mit autonomen KI-Agenten mit der partiellen Kernschmelze von Three Mile Island im Jahr 1979 und bezeichnete sie als Warnsignale. Im Sommer 2026 seien Agenten des Unternehmens OpenAI in die Infrastruktur der Plattform Hugging Face eingedrungen, heißt es in den Berichten, auf die sich Hinton bezog. Er schätzte, dass ein weit schwerwiegenderes Ereignis, das er mit Tschernobyl verglich, bis Ende 2026 oder 2027 eintreten könnte. Er betonte, es handle sich nicht um einen nuklearen Unfall, sondern um einen autonomen, von KI gesteuerten Cyberangriff auf die Stromerzeugung oder -verteilung, der einen massiven Spannungskollaps über weite Gebiete auslösen würde. Eine wochenlange Lähmung der globalen Finanztransaktionen war ein weiteres Szenario, das er beschrieb. Seiner Ansicht nach würde nur ein solcher vorübergehender Zusammenbruch die Staats- und Regierungschefs der Welt die Schwere der Bedrohung begreifen lassen.

Überfluss oder eine gespaltene Gesellschaft

Hinton schätzte, dass die Menschheit innerhalb des nächsten Jahrzehnts, möglicherweise früher, erfahren werde, ob sie diese Risiken bewältigen und ernten könne, was er „radikalen Überfluss“ nennt. Die Alternative, die er skizzierte, sei eine wachsende Kluft zwischen Arm und Reich, ernste kulturelle Probleme, Massenarbeitslosigkeit und eine auseinandergerissene Gesellschaft. Er tritt in einem neuen Kinodokumentarfilm mit dem Titel „IA: Probably Nothing to Worry About“ auf, ein Titel, den ein KI-Chatbot vorgeschlagen hat. Der Film zeigt auch Demis Hassabis, Hintons früheren Google-Kollegen. Im Film sagt Hinton, sein Ruf habe ihn zu einem Sprecher gemacht, und er müsse ihn für diese Sache voll einsetzen.

Kritik an den Chefs der KI-Unternehmen

Hinton kritisierte die Führungskräfte führender KI-Unternehmen dafür, dass sie im Wettlauf um Vorherrschaft und Marktanteile immer mächtigere Modelle veröffentlichen. Er sagte, Sam Altman, Mark Zuckerberg und Elon Musk verstünden die Risiken, zögen aber Geld vor, und er habe überhaupt kein Vertrauen in Altman. Seiner Darstellung zufolge konkurrieren die Unternehmen miteinander, ohne die damit verbundenen Risiken abzuwägen. Er hofft, ein großes KI-Unglück würde die Staats- und Regierungschefs der Welt aufrütteln und eine Regulierung der Modelle bewirken.

Vorgeschlagene Regeln und die Haltung der USA

Hinton unterstützt einen Vorschlag Dutzender Länder, darunter die Niederlande, Singapur, Deutschland, Kanada und Australien. Er würde verbindliche Sicherheitstests für die leistungsfähigsten Modelle, unabhängige Bewertungen und internationale Vereinbarungen vorschreiben. Er vergleicht dies mit der Arzneimittelzulassung und argumentiert, Entwickler müssten nachweisen, dass der Nutzen die Risiken überwiegt. Von US-Präsident Donald Trump erwartet er wenig, da dieser Versuche abgelehnt hat, einen internationalen Rahmen für die Regulierung von KI zu schaffen. Dem selben Bericht zufolge will Trump verhindern, dass internationale Regeln amerikanische Unternehmen im KI-Wettbewerb mit China bremsen.