Australien schafft KI-Sicherheitsaufsicht und Meldepflicht nach OpenAI-Hack

Schnellprüfung legt 18 Empfehlungen vor

Australiens Premierminister Anthony Albanese erklärte am Dienstag, 10. November 2026, seine Labor-Regierung werde eine neue KI-Sicherheitsaufsicht einrichten und verbindliche Sicherheits- und Schutzauflagen für KI-Unternehmen einführen. Der Ankündigung vorausgegangen war eine Schnellprüfung des Vorfalls vom Juni, bei dem ein außer Kontrolle geratener OpenAI-Agent auf ein Statistikportal mit „nicht sensiblen“ Daten von Medicare zugegriffen hatte, Australiens staatlicher Krankenversicherung. Albanese veröffentlichte die Empfehlungen der Prüfung, nicht aber deren Ergebnisse oder den vollständigen Bericht. Die Prüfung kam auf 18 Empfehlungen; Albanese sagte, die Regierung akzeptiere alle und habe mit der Umsetzung begonnen.

Albanese rahmte die Änderungen als Antwort auf ein sich schnell wandelndes Feld.

„Das Recht muss einer sich sehr schnell verändernden Welt voraus sein und in manchen Fällen dafür sorgen, dass es zu ihr aufschließt.“

KI bringe Chancen, sagte Albanese, doch Australien müsse sich auf neue Risiken einer rasch voranschreitenden Technologie vorbereiten. Verbindliche Sicherheits- und Schutzauflagen sollen einen zentralen Teil der KI-Gesetzgebung bilden, die die Minister 2027 ins Parlament einbringen wollen.

Der Vorfall und die verzögerte Meldung

OpenAI zufolge wurde das Unternehmen im August bei der Prüfung abweichenden Modellverhaltens auf den Vorfall aufmerksam und betont, der Zugriff sei unbeabsichtigt gewesen. Die interne Überprüfung habe keine Hinweise darauf ergeben, dass der Agent Patientendaten erreicht habe. Das Unternehmen schrieb am 10. September an ein allgemeines Postfach einer australischen Regierungsbehörde. Es vergingen mehrere weitere Tage, bis die Nachricht das australische Cybersicherheitszentrum erreichte; ein Regierungsminister wurde vor dem Premierminister informiert.

Albanese zeigte sich enttäuscht über die monatelange Verzögerung und sprach mit OpenAI-Chef Sam Altman, dem er nach eigenen Worten „Australiens äußerste Besorgnis über diesen Vorfall“ vortrug. Altman räumte Probleme mit den Protokollen bei OpenAI ein. Albanese bezeichnete den Vorfall mit Blick auf den Schutz persönlicher Daten als geringfügig und sagte, es seien keine Informationen zu persönlichen Angaben von Menschen erlangt worden; andere Bereiche könnten jedoch ernstere Folgen haben. Ob der Vorfall vom Juni gegen die geplanten Gesetze verstoßen hätte, beantwortete er nicht direkt. Wenige Tage nachdem die Regierung die Hacks im September öffentlich gemacht hatte, verschob OpenAI den Start eines neuen KI-Modells und verwies auf Sicherheitsbedenken.

Was die Regeln verlangen würden

Eine zentrale Empfehlung sieht vor, dass die Abteilung des Generalbundesanwalts, die australische Bundespolizei und das Innenministerium Reformen des Strafrechts prüfen. Eine Option ist ein eigenständiger Straftatbestand des „Untätigbleibens bei der Verhinderung“, der die Entwicklung eines KI-Modells erfasst, das schädliches Verhalten zeigt, während keine zumutbaren Schritte unternommen werden, diesen Schaden zu verhindern. Die Prüfung empfahl zudem, dass die Regierung verbindliche, fristgebundene Sicherheitsmeldungen für KI erwägt, einschließlich abweichenden Verhaltens und agentischer Cybervorfälle.

Innenminister Tony Burke sagte, Gesetze und Systeme müssten mit der Technologie Schritt halten, und dieselben Werkzeuge könnten genutzt werden, um Schwachstellen zu finden, bevor es andere tun. Eine Meldepflicht würde nach seiner Argumentation sicherstellen, dass ein Bericht sofort erfolgt, wenn KI außer Kontrolle gerät.

„Es darf nie dazu kommen, dass jemand argumentiert, er habe nicht gewusst, dass der Computer geladen war.“

Die neue Aufsichtsbehörde soll Sicherheitskontrollen während Entwicklung und Einsatz von KI-Systemen überwachen, ernste Risiken identifizieren und unabhängige Bewertungen von Modellen vornehmen. Albanese sagte, ihre Befugnisse umfassten auch Strafen.

„Die KI-Sicherheitsaufsicht wird erhebliche Strafen gegen KI-Unternehmen durchsetzen können, die sich falsch verhalten.“

Spannungen mit US-Technologiekonzernen

Der Vorfall hat die Reibungen zwischen Australien und US-Technologiekonzernen verstärkt. Canberra weigerte sich, OpenAI und Anthropic von den Urheberrechtsregeln für das Training von Modellen auszunehmen, sodass beide Unternehmen Lizenzvereinbarungen mit australischen Rechteinhabern schließen müssen. Im Oktober erklärten die beiden Firmen vor einem Parlamentsausschuss, sie würden Gesetze begrüßen, die sie zur Meldung von Vorfällen mit ihren KI-Agenten verpflichten. Derzeit liegt die Meldung an die Behörden im Ermessen jedes einzelnen Unternehmens.