Anthropic-CEO fordert FAA-ähnliche KI-Regulierung – Regierungen sollen gefährliche Modellveröffentlichungen blockieren können
Anthropic-CEO Dario Amodei hat einen umfassenden politischen Aufsatz und zwei Rahmenwerke veröffentlicht, die obligatorische Tests von Frontier-KI-Modellen fordern und Regierungen die rechtliche Befugnis geben sollen, Bereitstellungen zu blockieren, die katastrophale Risiken darstellen.
Anthropic hat eine Reihe aggressiver politischer Vorschläge veröffentlicht, die ein neues Regulierungsregime für künstliche Intelligenz fordern und es direkt mit der Aufsicht der Federal Aviation Administration über Flugzeuge vergleichen. Kernstück ist ein Advanced AI Framework, das Regierungen die rechtliche Befugnis geben würde, die Bereitstellung von Frontier-KI-Modellen zu blockieren oder zu unterbinden, die ein „erhebliches Risiko katastrophaler Schäden“ darstellen.
Das vorgeschlagene Sicherheitsrahmenwerk
Das Rahmenwerk zielt auf Modelle ab, die mit mehr als 10²⁵ Gleitkommaoperationen trainiert wurden und von Unternehmen entwickelt werden, die mehr als 500 Millionen Dollar an KI-Umsätzen erzielen oder mehr als 1 Milliarde Dollar für KI-FuE ausgeben. Diese Schwelle erfasst eine kleine Gruppe: Anthropic selbst, OpenAI, Google DeepMind, xAI und möglicherweise Meta. Zivilrechtliche Strafen würden an den globalen Jahresumsatz gekoppelt sein und sich bei wiederholten Verstößen erhöhen.
Frontier-KI-Modelle sollten wie Flugzeuge verpflichtet werden, technische Tests und Audits zu durchlaufen, und ihre Veröffentlichung sollte als Gefahr für die öffentliche Sicherheit blockiert oder rückgängig gemacht werden, wenn sie nicht hohe Sicherheitsstandards erfüllen.
Anthropic identifiziert vier Kategorien katastrophaler Risiken: Entwicklung biologischer Waffen, Entdeckung großflächiger Cyber-Sicherheitslücken, Kontrollverlust über autonome Systeme und KI, die ihre eigene FuE automatisiert. Das Unternehmen verwies auf seine eigenen Erfahrungen mit Mythos Preview, das Tausende von Schwachstellen mit hohem Schweregrad in jedem großen Betriebssystem und Browser entdeckte, als Beleg dafür, dass diese Risiken nicht hypothetisch sind.
Obligatorische Tests und Transparenz
Frontier-Entwickler wären verpflichtet, ihre Modelle zu testen, Ergebniszusammenfassungen zu veröffentlichen, sich unabhängigen Bewertungen zu unterziehen, Sicherheitsprogramme zu unterhalten und regelmäßige Risikoberichte zu veröffentlichen. Amodei argumentierte, dass die bestehenden Transparenzanforderungen nicht mehr ausreichen.
Anthropic hat sich lange für Transparenzanforderungen für Frontier-KI eingesetzt, weil die Risiken noch nicht klar genug waren, um präzise zu regulieren. Das reicht nicht mehr aus.
Der Vorschlag folgt einer Executive Order zur KI-Überwachung, die Präsident Donald Trump am 2. Juni unterzeichnet hat und die der Geheimdienstgemeinschaft eine verstärkte Rolle bei Modelltests einräumt. Amodei schrieb, dass Trumps Anordnung weiter gehen und obligatorische Tests für Cybersicherheit, biologische Waffen, Kontrollverlust und automatisierte FuE-Risiken verlangen sollte.
Vorrang und staatliche Befugnisse
Anthropic bezog direkt Stellung gegen den Vorstoß des Weißen Hauses, bundesstaatliche KI-Gesetze zu blockieren. Das Unternehmen erklärte, es glaube nicht, dass der Kongress bundesstaatliches Recht verdrängen sollte, es sei denn, er erlässt ein Bundesgesetz, das mindestens so stark ist wie das vorgeschlagene Rahmenwerk. Es forderte, dass die Verdrängung „chirurgisch“ erfolgen sollte, sodass die Bundesstaaten in den Bereichen Kindersicherheit und Verbraucherschutz regulieren können.
Wirtschaftliche Verwerfungen und Arbeitnehmerschutz
Neben dem Sicherheitsrahmenwerk veröffentlichte Anthropic ein Economic Policy Framework, das durch 350 Millionen Dollar an neuen Mitteln gestützt wird. Es befasst sich mit KI-bedingter Arbeitsplatzverdrängung, Kapitalverteilung und dem sozialen Sicherheitsnetz. Amodei schrieb, dass KI viel größere und nachhaltigere Verwerfungen auf dem Arbeitsmarkt verursachen könnte als frühere Technologien.
Es ist vernünftig anzunehmen, dass KI viel größere Verwerfungen auf dem Arbeitsmarkt verursachen könnte als frühere Technologien, und möglicherweise nachhaltigere Verwerfungen.
Die wirtschaftlichen Vorschläge umfassen bessere Daten zu KI-bedingtem Arbeitsplatzverlust, Lohnversicherung, Steueranreize für Mitarbeiterbindung und möglicherweise ein bedingungsloses Grundeinkommen oder universelle Kapitalkonten. Amodei merkte auch an, dass der öffentliche Widerstand gegen den Bau von Rechenzentren weitgehend ein Symbol für breitere wirtschaftliche Ängste in Bezug auf KI sei.
Auswirkungen auf Unternehmen
Die Vorschläge signalisieren potenzielle Volatilität in der Lieferkette für Unternehmen, die Foundation-Modelle lizenzieren. Ein mit Spannung erwartetes Modell-Update könnte mit regulatorischen Embargos belegt werden, wenn es schwerwiegende biologische, Cybersicherheits- oder Autonomierisiken aufweist. Das Rahmenwerk bietet einen Vorgeschmack auf die operativen und regulatorischen Beschränkungen, die die nächste Generation von Unternehmenstechnologie bestimmen werden.
Wir müssen jetzt global und kollektiv einen langsamen und wackeligen politischen Apparat aktivieren, um mit Risiken und Chancen umzugehen, die sich von hier aus überraschend schnell vervielfachen werden.
