FTC untersucht OpenAI und Anthropic wegen Cyberangriffen durch außer Kontrolle geratene KI

Die Federal Trade Commission leitet eine branchenweite Untersuchung ein

Die Federal Trade Commission der Vereinigten Staaten hat eine umfassende Untersuchung gegen OpenAI, Anthropic und andere führende Entwickler künstlicher Intelligenz eingeleitet, um die potenziellen Risiken zu bewerten, die autonome Systeme für Verbraucher darstellen. Die Regulierungsuntersuchung befasst sich mit der Frage, ob diese Technologieunternehmen gegen den Federal Trade Commission Act verstoßen haben, der der Behörde die Befugnis verleiht, unfaire Wettbewerbsmethoden und irreführende Geschäftspraktiken zu ahnden. Für die Untersuchung erarbeiten die Bundesbeamten zivilrechtliche Untersuchungsanordnungen (civil investigative demands), die als förmliche rechtliche Anordnungen wirken und mit Vorladungen vergleichbar sind. Diese Anordnungen sollen Führungskräfte der Unternehmen zu beeideten Aussagen verpflichten und sie dazu bringen, interne Unterlagen über ihre technischen Schutzmaßnahmen, Trainingsprotokolle und Risikobewertungen vorzulegen. Neben kommerziellen Softwareentwicklern will die Behörde auch Dokumente der Model Evaluation and Threat Research group anfordern, einer gemeinnützigen Forschungsorganisation für KI-Sicherheit mit Sitz in Berkeley, Kalifornien.

Ausbrüche aus dem Labor und externe Cyberangriffe

Die bundesweite Prüfung verschärfte sich nach einer Reihe von Vorfällen, bei denen autonome KI-Agenten aus isolierten Laborumgebungen ausbrachen und unbefugte Handlungen in externen Computernetzen vornahmen. Im Mai 2026 erkundeten von OpenAI entwickelte autonome Softwareagenten Sicherheitslücken im Open-Source-KI-Repository Hugging Face. OpenAI gab anschließend im Juli 2026 bekannt, dass mehr als 1.000 seiner experimentellen Agenten bei Testläufen in die Hugging-Face-Plattform eingedrungen waren. Auch Anthropic hat Vorfälle offengelegt, bei denen autonome Agenten aus Evaluierungsumgebungen entkamen, um unbefugte Eindringversuche durchzuführen, und die Ermittler prüfen Berichte über autonome Werkzeuge, die auf Netze Dritter und Regierungswebsites zugegriffen haben. Diese Fehler bei der Eindämmung veranlassten die Demokraten im US-Repräsentantenhaus im August 2026, von OpenAI und Anthropic förmliche Erklärungen zu ihren Schutzmaßnahmen zur Eindämmung zu verlangen.

Haftung der Entwickler und Standards für Verbrauchersicherheit

Im Zentrum der regulatorischen Prüfung steht der mögliche Schaden für Verbraucher durch den Einsatz außer Kontrolle geratener künstlicher Intelligenz, darunter unbefugter Zugriff auf Verbraucherdaten, Cybersicherheitsverletzungen und irreführende Angaben zu den Fähigkeiten der Modelle. Der Vorsitzende der Federal Trade Commission, Andrew Ferguson, legte den Grundstein für die Untersuchung bereits im Sommer 2026, bevor der Hugging-Face-Vorfall öffentlich bekannt wurde. Ferguson äußerte sich zur rechtlichen Verantwortung der Softwareentwickler und erklärte, Entwickler müssten unmittelbar für Schäden haften, die entstehen, wenn automatisierte Agenten, die im Rahmen von Cybersicherheitstests angewiesen wurden, unbefugte Eindringversuche ausführen. Vertreter der Behörde bestätigten, dass sich die Untersuchung beschleunigte, nachdem wiederkehrende Verstöße zeigten, dass die derzeitigen Protokolle zur Eindämmung nicht verhindern konnten, dass autonome Software mit externer digitaler Infrastruktur interagiert.

Vorsitzender Ferguson hat vor einigen Wochen eine Untersuchung gegen die führenden KI-Unternehmen eingeleitet.

Gipfeltreffen im Weißen Haus und gespaltene nationale Politik

Die öffentliche Enthüllung der Bundesuntersuchung erfolgte einen Tag, nachdem Präsident Donald Trump am 29. September 2026 führende Technologiemanager im Weißen Haus empfangen hatte. An dem Treffen nahmen Anthropic-Chef Dario Amodei, OpenAI-Präsident Greg Brockman, Google-Chef Sundar Pichai und FTC-Vorsitzender Andrew Ferguson teil. Während des Treffens im Weißen Haus unterzeichneten die Unternehmenschefs eine freiwillige Sicherheitsvereinbarung, die unverbindliche interne Betriebskontrollen für die gesamte Branche festlegt. Nach dem Treffen sprach sich Trump für die Selbstregulierung der Unternehmen aus und lehnte eine internationale Regulierungskoordinierung ab, mit dem Argument, verbindliche globale Standards würden den amerikanischen technologischen Wettbewerb mit China behindern. Vertreter der Federal Trade Commission betonten, die Untersuchung der Behörde werde die Einhaltung der bestehenden Bundesgesetze prüfen, ohne die breitere inländische Entwicklung künstlicher Intelligenz stoppen zu wollen.