Streit um ethische Grenzen der KI: Anthropic riskiert 200-Millionen-Dollar-Vertrag mit dem Pentagon

Die Beziehungen zwischen dem Verteidigungsministerium (DoD) und dem Startup Anthropic, das als einer der ethischsten Akteure auf dem KI-Markt gilt, haben sich rapide verschlechtert. Das von Dario Amodei geführte Unternehmen weigerte sich, das Modell Claude für autonome Waffen und massenhafte nationale Überwachung einzusetzen. Diese Standhaftigkeit stieß auf eine sofortige Reaktion des Pentagon, das die Stornierung eines Vertrags über 200 Millionen Dollar erwägt. Verteidigungsminister Pete Hegseth strebt uneingeschränkten Zugang zu Sprachmodellen an, begründet mit der Notwendigkeit, China im technologischen Wettrüsten zuvorzukommen. Der Kontext des Streits ist umso bedeutender, als Anthropic-Systeme angeblich bereits in geheimen Operationen eingesetzt wurden, z.B. in Venezuela gegen das Regime von Nicolás Maduro. Die Haltung des Unternehmens stellt jedoch die kommerzielle Zukunft von Technologie-Startups in Frage, die versuchen, Gewinne aus Regierungsverträgen mit strengen Sicherheitsgrundsätzen zu verbinden. Das Pentagon verfolgt derzeit eine Hardball-Strategie und sendet ein klares Signal an das gesamte Silicon Valley: entweder volle Zusammenarbeit oder Ausschluss von lukrativen öffentlichen Aufträgen. Diese Situation stellt Konkurrenten wie OpenAI oder Google vor ein Dilemma, die die ethischen Erwartungen ihrer Mitarbeiter mit dem geopolitischen Druck in Einklang bringen müssen. Der Konflikt verschärfte sich nach Berichten, dass die US-Administration von KI-Entwicklern erwartet, auf jegliche Schutzbarrieren (sog. Guardrails) in Verteidigungsanwendungen zu verzichten. Experten weisen darauf hin, dass der beispiellose Widerstand von Anthropic zu einer neuen Trennlinie in der Branche führen könnte, wobei sich einige Unternehmen ausschließlich auf den zivilen Sektor konzentrieren und den Zugang zu milliardenschweren Bundesmitteln verlieren. Seit dem Projekt Maven im Jahr 2018, als Google-Mitarbeiter gegen die Zusammenarbeit mit dem Militär bei der Analyse von Drohnenbildern protestierten, bleiben die Beziehungen zwischen Big Tech und dem Pentagon angespannt und von Gewissensfragen der Ingenieure belastet.„Wir müssen künstliche Intelligenz schneller und effektiver integrieren als unsere Gegner, was vollen Zugang zu modernsten Modellen ohne jegliche Fragen erfordert.” — Pete Hegseth Standpunkte im KI-Streit: Zugang zu Modellen: Eingeschränkt durch Sicherheitsfilter → Forderung nach uneingeschränktem Zugang (unrestricted); Hauptbedenken: Ethik und existenzielle Risiken → Chinas Dominanz bei Rüstung; Wert der Zusammenarbeit: Vertrag über 200 Mio. USD → Drohung der vollständigen Vertragsauflösung