Open Rights Group: KI ist in fast allen Bereichen des britischen Innenministeriums im Einsatz – bei kaum öffentlicher Kontrolle

Aktivisten: KI durchzieht inzwischen zahlreiche Aufgaben des Innenministeriums

Die Open Rights Group (ORG) hat einen Bericht mit dem Titel „Automated Discrimination“ veröffentlicht, in dem sie argumentiert, KI sei nahezu vollständig geheim in weiten Teilen des Innenministeriums verankert. Der Organisation zufolge wird die Technologie eingesetzt, um mögliche Scheinehen zu markieren, das Alter von Asylsuchenden zu schätzen und die Inhalte von Mobiltelefonen neu Ankommender zu prüfen. Zudem unterstütze sie die Grenzüberwachung durch Live-Gesichtserkennung sowie KI-gestützte Drohnen und Satelliten und helfe dabei, Fälle über ein Werkzeug namens Identify and Prioritise Immigration Cases (Ipic) zu priorisieren und zu bewerten. Laut ORG stammen die Erkenntnisse aus den wenigen Veröffentlichungen des Innenministeriums, aus Informationsfreiheitsanfragen und aus Anfragen von Abgeordneten. Der Bericht argumentiert, diese Systeme seien weder neutral noch treffsicher und könnten Vorurteile und Diskriminierung reproduzieren.

Unterstützung aus mehreren Parteien kommt von der Labour-Abgeordneten Bell Ribeiro-Addy, dem SNP-Abgeordneten Pete Wishart und Siân Berry von den Grünen. Ribeiro-Addy fordert das Innenministerium auf, seine Gleichstellungs- und Datenschutzprüfungen zu veröffentlichen und eine unabhängige Überprüfung der Leistungsfähigkeit der Werkzeuge zuzulassen.

„Das Innenministerium sollte KI nicht bei Entscheidungen einsetzen, die für das Leben der Menschen so grundlegend sind, solange es nicht belegen kann, dass die Werkzeuge treffsicher sind“

Die Kampagnenorganisationen fordern von der Regierung, KI zu regulieren, Anwendungen zu verbieten, die Menschenrechtsverletzungen riskieren, ein öffentliches Register staatlicher KI-Werkzeuge zu veröffentlichen und die Informationsfreiheitsgesetze zu verschärfen.

Asyl-Werkzeuge und Zweifel an der Treffsicherheit

Das Innenministerium stützt sich auf zwei Systeme, das Asylum Case Summarisation (ACS) und das Asylum Policy Search (APS) Tool, die auf OpenAIs GPT-4-Modell von 2023 und Microsoft Foundry zurückgreifen. Unterlagen, die der ORG vorliegen, zeigen, dass die Werkzeuge Transkripte von Befragungen Asylsuchender sowie Hintergrundmaterial zu deren Herkunftsländern zusammenfassen. Die Einwanderungsbehörde begann Ende 2024 mit Pilotversuchen, als die Regierung einen Rückstand von rund 100.000 Asylverfahren abarbeitete. Seither hat das Ministerium die Zahl der Menschen, die auf eine Erstentscheidung warten, im Jahr bis Juni halbiert, während die Zahl der Widersprüche deutlich gestiegen ist. The Independent berichtete, interne Stichproben hätten ergeben, dass das Zusammenfassungswerkzeug grundlegende Genauigkeitstests nicht besteht.

„Asylentscheidungen werden von geschulten Sachbearbeitern getroffen; KI-Werkzeuge dienen lediglich dazu, sich in Befragungsprotokollen und Politikinformationen zurechtzufinden.“

Das Ministerium erklärt, es überwache die Werkzeuge im Rahmen seiner Qualitätssicherungsverfahren und habe zugesagt, aktualisierte Bewertungen im Zuge der Einführung zu veröffentlichen.

Prüfung durch die Aufsicht und die Frage der Geheimhaltung

Der Unabhängige Chefinspektor für Grenzen und Einwanderung (ICIBI) hat die ORG um weitere Informationen zu den Werkzeugen gebeten, während er seine Prüfungsschwerpunkte für das kommende Jahr erarbeitet. Die Aufsichtsbehörde wollte nicht bestätigen, welche Themen derzeit geprüft werden, erklärte jedoch, sie kenne die Bedenken zur KI-Nutzung und verwies auf frühere Feststellungen, wonach Wirksamkeit und Zuverlässigkeit des Werkzeugs unterschiedlich ausfielen. Die sechsmonatige Untersuchung der ORG stützte sich auf 11 parlamentarische Anfragen, zwei Ministerbriefe und 10 Anträge auf Akteneinsicht, weil das Innenministerium Details zu den Werkzeugen zurückhält. Sara Alsherif, Programmmanagerin bei der ORG, sagt, Transparenz, Rechenschaftspflicht und eine strenge Regulierung seien dringend nötig, um den Einsatz von KI zu begrenzen und eine weitere Ausbreitung zu verhindern.

Parlamentarische Anfragen11

Ministerbriefe2

Anträge auf Akteneinsicht10

Parlamentarische Anfragen

11

Ministerbriefe

2

Anträge auf Akteneinsicht

10

Daten aus dem Artikeltext

Rechenzentrumspolitik und die Drehtür

Spotlight on Corruption fand heraus, dass zwischen Juli 2024 und September 2026 insgesamt 38 Minister, hochrangige Beamte und Sonderberater in Positionen bei KI-Unternehmen wechselten, darunter zu OpenAI und Anthropic. Die Untersuchung umfasste 40 Informationsfreiheitsanfragen an 18 Regierungsstellen über einen Zeitraum von zwölf Monaten und befasst sich mit der Politik der KI-Wachstumszonen, einem Kernstück der KI- und Wirtschaftsagenda des früheren Premierministers Keir Starmer. Neun der ausgeschiedenen Beamten kamen aus dem Ministerium für Wissenschaft, Innovation und Technologie, darunter ein früherer Minister für KI und geistiges Eigentum sowie ein früherer KI-Berater des Premierministers. Minister, Staatssekretäre und Generaldirektoren, die an der Politik mitwirkten, trafen 137 Unternehmen, einige davon mehrfach, während hochrangige Beamte zwei Bürgerinitiativen und keine Umweltorganisationen trafen.

„Die Regierung hat auf höchster Ebene völlig versäumt, bei der Entwicklung ihrer Vorzeigepolitik zu KI-Rechenzentren mit Umwelt-NGOs oder Bürgerinitiativen zu sprechen.“

Treffen mit Unternehmen137

Treffen mit Bürgerinitiativen2

Treffen mit Umweltorganisationen0

Treffen mit Unternehmen

137 Treffen

Treffen mit Bürgerinitiativen

2 Treffen

Treffen mit Umweltorganisationen

0 Treffen

Daten aus dem Artikeltext

Weitere KI-Schäden in derselben Berichterstattung

Die britische Antisklaverei-Beauftragte Eleanor Lyons warnte, KI erleichtere es Kriminellen, gefälschte Online-Profile zu erstellen und Kinder dazu zu bringen, Geld oder Drogen zu transportieren. Die Opfer seien für die Behörden oft unerreichbar. Neue, in der Berichterstattung zitierte Daten zeigen, dass im Jahr 2025 insgesamt 7.045 Kinder als mögliche Opfer von Menschenhandel und moderner Sklaverei gemeldet wurden, 17 % mehr als im Vorjahr; mehr als 60 % von ihnen sind britische Staatsangehörige. Die Internet Watch Foundation meldet ebenfalls einen Anstieg von Sextortion-Fällen bei Minderjährigen. Der leitende Sicherheitsberater von Microsoft UK, Dr. Jon Davies, sagte zudem, KI-getriebene Bedrohungen seien real; der Digital Defense Report des Unternehmens ergab, dass Phishing-Angriffe bei Vorfallreaktionen weltweit im Jahresvergleich von 7 % auf 23 % gestiegen sind. Google wiederum wirft der Competition and Markets Authority einen „rechtswidrigen“ Versuch vor, das Unternehmen dazu zu bringen, konkurrierende KI-Dienste zu bewerben.