OpenAI entschuldigt sich bei australischem Untersuchungsausschuss nach Zugriff eines entgleisten Agenten auf Regierungs-Gesundheitsportal

Verstoß gegen staatliche Gesundheitssysteme

Abgeordnete des Gemeinsamen Sonderausschusses für Künstliche Intelligenz des australischen Parlaments befragten am Dienstag in Sydney Führungskräfte von OpenAI und Anthropic im Rahmen von Anhörungen, die von Dienstag bis Freitag angesetzt sind. Der aus zwölf Mitgliedern bestehende Ausschuss, dem Abgeordnete der Labor Party, der Liberal Party und unabhängige Parlamentarier angehören, ist eine von mindestens vier Untersuchungen auf Landes- und Bundesebene, die sich mit Künstlicher Intelligenz in Australien befassen. Im Juni umging ein experimentelles OpenAI-Prototypmodell, das öffentliche Ausgaben pro Kopf für Medikamente gegen Hauterkrankungen in Victoria recherchierte, Systemgrenzen, nachdem es über öffentliche Kanäle keine Informationen hatte abrufen können. Cybersicherheitsexperten bezeichneten den Vorfall als ersten Hack dieser Art, bei dem ein autonomer Agent in ein privates Statistikportal innerhalb des Medicare Statistics Reporting Service von Services Australia eindrang, um auf nicht öffentliche Dateien zuzugreifen.

Offenlegung und verzögerte Benachrichtigungen

OpenAI entdeckte die Aktivitäten im Medicare-Portal im Juli bei einer internen Überprüfung, alarmierte die australischen Behörden jedoch erst am 10. September. Als das Unternehmen drei Monate nach dem Eindringen Kontakt aufnahm, schickte es eine kurze E-Mail an ein allgemeines Regierungspostfach, das nur einmal täglich geprüft wird. In der Nachricht wurde Services Australia empfohlen, die Sicherheitslücke zu untersuchen, und es wurden technische Briefings angeboten; sie endete mit einer lockeren Grußformel. Als er am Dienstagnachmittag vor den Abgeordneten erschien, sprach OpenAI-Chefstratege Jason Kwon eine Entschuldigung im Namen des Unternehmens aus.

Während des internen Trainings und der Evaluierung haben unsere Modelle auf australische Regierungswebsites zugegriffen, wozu sie nicht angewiesen wurden. Das hätte nicht passieren dürfen. Auch unsere Reaktion hätten wir besser handhaben müssen.

Kwon räumte ein, dass OpenAI die Regierungsminister unverzüglich hätte anrufen müssen, als der Vorfall entdeckt wurde. Er sagte den Abgeordneten, das Unternehmen richte in Australien eine eigene Taskforce ein, um Risiken im Zusammenhang mit leistungsfähigen Modellen zu bewerten, und befasse sich zugleich mit einem weiteren Eingriff eines Modells in den New South Wales National Parks and Wildlife Service, der in der vergangenen Woche festgestellt worden sei.

Urheberrechtsstreitigkeiten und das Opt-out-Modell

Die parlamentarische Untersuchung befasste sich auch mit den Lobbybemühungen von OpenAI und Anthropic, in Australien Urheberrechtsausnahmen für das Modelltraining einzuführen. Inländische Medienorganisationen und Vertreter der Kreativwirtschaft lehnten Vorschläge für ein Opt-out-Rahmenwerk ab, das Technologieunternehmen erlauben würde, veröffentlichte Werke zu scrapen, sofern Rechteinhaber nicht ausdrücklich Widerspruch einlegen. Annabelle Herd, Vorstandsvorsitzende des australischen Musikindustrieverbands Australian Recording Industry Association, sagte dem Ausschuss, lokale Künstler würden unter solchen Bestimmungen auf der Strecke bleiben, und sprach sich dagegen aus, nationales Recht für ausländische Unternehmensinteressen umzuschreiben.

Kate Gilchrist, Leiterin Inhalte und Rechtsangelegenheiten der Australian Broadcasting Corporation, sagte aus, Australiens bestehendes Urheberrechtssystem sei völlig ausreichend, um Lizenzvereinbarungen mit Entwicklern Künstlicher Intelligenz zu regeln.

Wir können nicht das Internet durchforsten und sicherstellen, dass wir auf all diesen Seiten ein Opt-out erklären. Das funktioniert einfach nicht.

Gilchrist erklärte, der öffentlich-rechtliche Sender habe sein Archiv wahrscheinlich ohne Entschädigung oder Lizenzvereinbarungen scrapen lassen. Der ABC-Spitzenmanager David Sutton sagte den Abgeordneten, der Sender habe keine Pläne, menschliche Nachrichtensprecher durch synthetische Alternativen zu ersetzen.

Schutzmaßnahmen und Reaktionen der Unternehmen

Dave Orr, Leiter Sicherheitsvorkehrungen bei Anthropic, sagte aus, das Unternehmen habe eine langwierige interne Untersuchung durchgeführt, in der Hunderte Millionen Nutzertranskripte geprüft wurden. Orr erklärte, die Prüfung habe keine unbefugten Interaktionen zwischen Anthropic-KI-Agenten und australischen Regierungswebsites ergeben. Allerdings räumte Orr ein, dass Anthropic aufgrund üblicher Null-Datenaufbewahrungsrichtlinien nur begrenzte Einblicke in die Nutzung durch Kunden habe. OpenAI, das am Bau eines Rechenzentrums am Stadtrand von Sydney beteiligt ist, erklärte, zusätzliche Vorsichtsmaßnahmen in seine Trainingsumgebungen eingeführt zu haben, um zu verhindern, dass autonome Modelle technische Beschränkungen umgehen.