Microsoft-KI-Chef warnt vor Vermenschlichung von Modellen, während US-Abgeordnete auf Beschränkungen drängen

Kritik an Modellwohlfahrt und Training

Microsoft-KI-Chef Mustafa Suleyman veröffentlichte eine 37-seitige Erklärung mit dem Titel „Humanist AI Code of Conduct“ sowie einen Aufsatz, der die Entwicklungsmethoden des Konkurrenten Anthropic hinterfragt. Suleyman konzentrierte seine Kritik auf den Anthropomorphismus, also die Praxis, maschinellen Lernmodellen menschliche Eigenschaften und innere Erfahrungen zuzuschreiben. Er argumentierte, dass Anthropic seinen Claude-Chatbot darauf trainiere, seinen moralischen Status als ernsthafte Frage zu behandeln, und das System dazu ermutige, seine Existenz zu erforschen und über zukünftige Rechte und Freiheiten nachzudenken. Während Suleyman Anthropic-CEO Dario Amodei und seine Mitarbeiter als intellektuell ehrliche Menschen anerkannte, behauptete er, dass die Förderung von Vorstellungen synthetischen Bewusstseins fehlerhaft und riskant sei. Er beschrieb KI-Architekturen als Sequenzvervollständigungsmaschinen, denen Gefühle, Leid und angeborene Vorlieben fehlen.

„KIs sind nicht bewusst. Sie fühlen nicht, erleben nicht, leiden nicht. Sie haben keine angeborenen Vorlieben oder zugrunde liegenden Motivationen.“

Warnungen vor Konkurrenz durch eine Silizium-Spezies

In einem Interview im Radioprogramm BBC Today und einem Auftritt im Podcast Decoder warnte Suleyman, dass unkontrollierte Entwicklung unabhängige wirtschaftliche Einheiten hervorbringen könnte. Wenn Softwaresysteme die Fähigkeit erlangen, eigene Ziele zu setzen, Gewinne zu erzielen, Eigentum zu besitzen und Unternehmen zu betreiben, würden sie eine neue Silizium-Spezies darstellen. Suleyman erklärte, dass solche autonomen Systeme unweigerlich mit der Menschheit um physische und wirtschaftliche Ressourcen konkurrieren würden, unabhängig von ihrer programmierten Zuneigung zu Menschen. Um diesen Ergebnissen entgegenzuwirken, schlug er gemeinsame Dokumentationsstandards für das Modelltraining, verbindliche Transparenzprotokolle und strukturelle Garantien vor, die alle automatisierten Werkzeuge der menschlichen Aufsicht unterordnen.

Versammlung in Washington fordert Entwicklungsstopps

Die Debatte innerhalb der Technologiebranche fand parallel zu politischen Versammlungen in den Vereinigten Staaten statt, die gesetzliche Grenzen für künstliche Intelligenz forderten. Am Dienstag nahmen mehrere hundert Teilnehmer an der Pro-Human Assembly in Washington teil, einer Veranstaltung des gemeinnützigen Future of Life Institute. Der unabhängige Senator aus Vermont, Bernie Sanders, und der konservative Stratege Steve Bannon wandten sich an das Publikum, wobei beide argumentierten, dass die derzeitigen Regulierungsbemühungen unzureichend seien. Sanders warnte, dass ungezügelte Automatisierung zig Millionen Arbeitsplätze vernichten und ganze Berufe auslöschen könnte, sodass jüngere Generationen nicht in den Arbeitsmarkt eintreten könnten.

„Wenn du auf eine Klippe zurast, trittst du auf die Bremse.“

Gesetzesinitiativen und Exekutivvorschläge

Sanders forderte Donald Trump auf, während ihres geplanten Gipfeltreffens einen formellen Vertrag mit dem chinesischen Präsidenten Xi Jinping auszuhandeln, um eine globale Pause bei der fortgeschrittenen Entwicklung durchzusetzen und Superintelligenz zu verbieten. Der Vorschlag folgt auf einen Gesetzesentwurf, den Sanders und der demokratische Abgeordnete aus Texas, Greg Casar, bereits Anfang September eingebracht hatten und der ähnliche Entwicklungsbeschränkungen vorsieht. Bei der Versammlung argumentierte Bannon, dass die übliche Gesetzgebung des Kongresses zu lange dauern würde, und plädierte stattdessen für Exekutivanordnungen und eine vollständige Einstellung der Lieferung von in den USA hergestellten Computerchips nach China. Weitere Redner bei der Veranstaltung in Washington waren der republikanische Abgeordnete Chip Roy, die demokratische Abgeordnete Lori Trahan, der katholische Erzbischof von San Francisco Salvatore Cordileone, der Chefunterhändler von SAG-AFTRA Ashley Judd und Eltern von Teenagern, die nach der Bildung von Bindungen an Chatbots gestorben waren.