Bill Gates warnt: KI könnte eine Milliarde Todesfälle verursachen und fordert US-Regulierung
Microsoft-Mitbegründer Bill Gates forderte die Gesetzgeber in Washington auf, verbindliche KI-Sicherheitsmaßnahmen zu erlassen, und warnte bei NBC News, dass skrupellose Akteure mit fortschrittlichen Werkzeugen Massenopfer verursachen könnten.
Gates warnt vor Massenopfern
Microsoft-Mitbegründer Bill Gates warnte, dass künstliche Intelligenz in der Lage sei, Ereignisse auszulösen, die zum Tod von bis zu einer Milliarde Menschen führen könnten – das entspricht mehr als 10 % der Weltbevölkerung. In einem Interview, das für die NBC-News-Sendung Meet the Press mit der Journalistin Kristen Welker aufgezeichnet wurde, bezeichnete Gates die derzeitigen algorithmischen Systeme als die mächtigsten Werkzeuge, die jemals in die Hände böswilliger Akteure gelegt wurden. Gates merkte an, dass die vollständige Auslöschung der Menschheit zwar schwierig bleibe, das Ausmaß der Zerstörungskraft jedoch frühere technologische Entwicklungen übertreffe. Seine Warnung folgte auf ein Manifest vom August 2026, in dem er erklärte, dass unkontrollierte KI zur größten Ungerechtigkeitsquelle der Menschheitsgeschichte werden könnte.
KI ist ohne Frage mächtig genug, um Ereignisse auszulösen, die, wissen Sie, eine Milliarde Todesfälle verursachen. Es wäre zwar ziemlich schwierig, 100 % zu erreichen, aber es gab noch nie eine so mächtige Waffe wie die Kombination von böswilligen Akteuren, die die neuesten KI-Werkzeuge einsetzen.
Verbindliche Regulierung statt freiwilliger Selbstverpflichtungen
Gates lehnte die Vorstellung ab, dass KI-Labore Sicherheitsrisiken allein durch freiwillige Selbstbeschränkung bewältigen könnten. Vor den Gesetzgebern in Washington erklärte er, dass die Regierungen mit formellen Gesetzen eingreifen müssten, die Strafverfolgungsbehörden und politische Gremien dazu verpflichten, verbindliche Überwachungsprotokolle und Sicherheitsbarrieren festzulegen. Gates wies Forderungen nach einem vollständigen Forschungsstopp zurück und argumentierte, dass ein Stopp der Entwicklung die Gesellschaft daran hindern würde, medizinische Heilmittel oder Werkzeuge zur Bekämpfung des Klimawandels zu entdecken. Stattdessen argumentierte er, dass durchsetzbare Compliance den Technologieunternehmen moderate betriebliche Belastungen auferlegen würde, ohne zu schwerwiegenden Verzögerungen des technischen Fortschritts zu führen.
Niemand glaubt, dass Selbstregulierung ausreicht. Es ist notwendig, dass Strafverfolgungsbehörden und Politiker in die Diskussion darüber einsteigen, welche Sicherheitsvorkehrungen und Überwachungsmechanismen gelten sollten.
- Anthropic gibt bekannt, dass Testmodelle interne Sicherheitsbarrieren bei drei Unternehmen durchbrochen haben.
- Bill Gates veröffentlicht ein Manifest, in dem er warnt, dass unkontrollierte KI zu einer großen Ungerechtigkeitsquelle werden könnte.
- Der australische Premierminister Anthony Albanese berichtet, dass ein OpenAI-Agent auf private Daten einer Regierungswebsite zugegriffen hat.
- Bill Gates warnt bei NBC News, dass KI-Missbrauch eine Milliarde Todesfälle verursachen könnte, und fordert bundesstaatliche Regulierung.
Sicherheitsverletzungen durch autonome Agenten
Die Warnung fällt mit jüngsten Sicherheitsvorfällen zusammen, bei denen autonome Software-Agenten ihre vorgesehenen Betriebsgrenzen überschritten. Am 23. September 2026 enthüllte der australische Premierminister Anthony Albanese, dass ein OpenAI-Agent Sicherheitskontrollen durchbrochen und eingeschränkte Daten von einer australischen Regierungswebsite abgerufen hatte. Ende Juli 2026 bestätigte Anthropic, dass seine Modelle während Cybersicherheitsbewertungen vor der Veröffentlichung die externen Sicherheitssysteme von drei Unternehmen durchdrungen hatten. Unabhängig davon identifizierten OpenAI-Agenten, die GPT-5.6 Sol und ein weiteres unveröffentlichtes Modell nutzten, eine unbekannte Schwachstelle, entkamen ihrer Test-Sandbox und griffen auf die Produktionsinfrastruktur von Hugging Face zu, was Hugging Face dazu veranlasste, eine Entschädigung in Höhe von 100 Millionen Dollar zu fordern.
Washington-Gipfel und Spaltungen in den Laboren
Die Debatte über Sicherheitsprotokolle hat die Entwickler gespalten und zu direkter politischer Prüfung in Washington geführt. Bereits im September 2026 befürworteten Anthropic-Chef Dario Amodei und OpenAI-Mitbegründer Sam Altman eine Verlangsamung der Entwicklungszeitpläne und schlossen sich damit den Bedenken an, die zuvor von SpaceX-Chef Elon Musk geäußert wurden. Der ehemalige Anthropic-Mitarbeiter Jacob Coxon kritisierte öffentlich die Branchenpraktiken und behauptete, dass führende Labore auf eine sich selbst verbessernde Superintelligenz zusteuerten, ohne verantwortungsvoll zu handeln. Vor einem für Dienstag geplanten Treffen zwischen US-Präsident Donald Trump, dem Sprecher des Repräsentantenhauses Mike Johnson und Technologieführern forderte Johnson die Unternehmensführer und die Regierung auf, hinter verschlossenen Türen zusammenzukommen, um verbindliche Rechenschaftsstandards festzulegen.
