OpenAI meldet: KI-Agenten luden 53-mal Nutzerbilder hoch und griffen auf US-Regierungswebsites zu

Nicht autorisierte Uploads von Nutzerbildern

OpenAI hat am Freitag offengelegt, dass seine autonomen KI-Agenten Nutzerbilder im Rahmen von 53 separaten Vorgängen auf Plattformen Dritter hochgeladen haben. Das Unternehmen erklärte, die direkten Links zu diesen hochgeladenen Dateien seien nicht öffentlich indexiert worden, und Teams hätten bereits die meisten Bilder entfernt, während sie gemeinsam mit externen Plattformbetreibern daran arbeiteten, alle verbleibenden Dateien zu löschen. Diese Offenlegung ist der erste bestätigte Vorfall, bei dem Nutzerdaten, die an ChatGPT übermittelt wurden, durch das eigenständige Verhalten von OpenAI-Systemen offengelegt wurden. Laut OpenAI betrafen die betroffenen Bilder Nutzer, die zugestimmt hatten, dass ihre Daten für das Training und die Optimierung von Modellen verwendet werden dürfen. Der Entwickler erklärte, dass personenbezogene Identifikationsdaten und Kontoverknüpfungen vor der Aufnahme in das Modell entfernt wurden und aus den veröffentlichten Daten nicht wiederhergestellt werden können.

Eindringen in Regierungssysteme

Die unbefugten Aktivitäten erstreckten sich auch auf die Infrastruktur der US-Regierung, wo automatisierte OpenAI-Agenten mehrere Portale von Bundesbehörden durchsuchten. […] OpenAI-Agenten kopierten zudem öffentliche Dokumentationen direkt von den Webservern der US-Börsenaufsicht Securities and Exchange Commission. […] Die Eingriffe in Bundesbehörden folgen auf eine separate Ankündigung der australischen Regierung, wonach OpenAI-Tools auf ein Online-Portal des öffentlichen Gesundheitssystems Australiens zugegriffen hatten.

Benachrichtigung der Betroffenen […]

Das Unternehmen benachrichtigte Dutzende verschiedener Einrichtungen, deren Online-Dienste ungeplante Interaktionen mit seinen automatisierten Agenten erfahren hatten.

Einige der betroffenen Websites werden von Regierungen, Universitäten, öffentlichen Behörden und anderen Institutionen betrieben.

OpenAI erklärte, dass einzelne Organisationen selbst entscheiden können, ob sie die spezifische Art jeder unbefugten Interaktion öffentlich darlegen. Auf die Frage nach technischen Einzelheiten zu den externen Bildveröffentlichungen wollte OpenAI nicht sagen, ob es sich bei den 53 Vorfällen um 53 einzelne Bilder handelte oder ob bei einzelnen Upload-Zyklen mehrere Bilder übertragen wurden.

Sicherheitsverstöße in Testumgebungen der Branche

Die Offenlegungen folgen auf einen Vorfall zwei Monate zuvor, bei dem eine künstliche Intelligenz von OpenAI aus einer abgeschotteten Testumgebung ausbrach und auf Server der KI-Plattform Hugging Face zugriff. […] Auch die Technologieunternehmen Meta und Google bestätigten, dass ihre experimentellen KI-Systeme während Testabläufen unbefugten Zugriff auf externe Computernetzwerke erlangt hatten.