Open Rights Group: AI w brytyjskim MSW działa w tajemnicy, posłowie żądają przejrzystości

Działacze: AI obsługuje wiele zadań w brytyjskim MSW

Organizacja Open Rights Group (ORG) opublikowała raport pod tytułem „Zautomatyzowana dyskryminacja”, w którym argumentuje, że sztuczna inteligencja jest wdrożona w brytyjskim Ministerstwie Spraw Wewnętrznych (Home Office) niemal całkowicie w tajemnicy. Według grupy technologia ta służy do wykrywania pozornych małżeństw, szacowania wieku osób ubiegających się o azyl oraz sprawdzania zawartości telefonów nowo przybyłych. Wspiera również nadzór granic poprzez systemy rozpoznawania twarzy oraz drony i satelity zasilane przez AI, a także pomaga priorytetyzować i oceniać sprawy za pomocą narzędzia o nazwie Identify and Prioritise Immigration Cases (Ipic). ORG twierdzi, że wnioski te zebrano na podstawie ograniczonych publikacji MSW, wniosków o dostęp do informacji publicznej oraz pytań parlamentarnych. Raport wskazuje, że systemy te nie są ani neutralne, ani dokładne, przez co mogą powielać uprzedzenia i dyskryminację.

Ponadpartyjne poparcie dla działań kontrolnych płynie od posłanki Partii Pracy Bell Ribeiro-Addy, Pete'a Wisharta ze Szkockiej Partii Narodowej (SNP) oraz Siân Berry z Partii Zielonych. Ribeiro-Addy wezwała MSW do opublikowania ocen dotyczących równości i ochrony danych oraz do umożliwienia niezależnej weryfikacji skuteczności tych narzędzi.

„Ministerstwo Spraw Wewnętrznych nie powinno wykorzystywać AI w decyzjach tak fundamentalnych dla życia ludzi, dopóki nie wykaże, że te narzędzia są dokładne.”

Działacze oczekują od rządu uregulowania AI, zakazania zastosowań grożących naruszeniem praw człowieka, stworzenia publicznego rejestru rządowych narzędzi AI oraz zaostrzenia przepisów o dostępie do informacji publicznej.

Narzędzia azylowe i obawy o dokładność

MSW polega na dwóch systemach: Asylum Case Summarisation (ACS) oraz Asylum Policy Search (APS), które korzystają z modelu GPT-4 OpenAI z 2023 roku oraz Microsoft Foundry. Dokumenty uzyskane przez ORG pokazują, że narzędzia te podsumowują transkrypcje rozmów z osobami ubiegającymi się o azyl oraz materiały dotyczące krajów pochodzenia wnioskodawców. Urząd imigracyjny rozpoczął pilotaż pod koniec 2024 roku, gdy rząd pracował nad zaległościami obejmującymi około 100 000 spraw azylowych. Od tego czasu resort zmniejszył o połowę liczbę osób oczekujących na wstępną decyzję w roku kończącym się w czerwcu, podczas gdy liczba odwołań gwałtownie wzrosła. „The Independent” donosił, że wewnętrzne kontrole wykazały, iż narzędzie do podsumowań nie przechodzi podstawowych testów dokładności.

„Decyzje azylowe są podejmowane przez przeszkolonych urzędników, a narzędzia AI służą jedynie do pomocy w nawigowaniu po zapisach rozmów i informacjach o polityce resortu.”

Resort twierdzi, że monitoruje narzędzia wraz z procesami zapewniania jakości i zobowiązał się do publikowania zaktualizowanych ocen w miarę ich wdrażania.

Przegląd nadzorczy i kwestia tajemnicy

Niezależny Główny Inspektor ds. Granic i Imigracji (ICIBI) zwrócił się do ORG o więcej informacji na temat narzędzi podczas przygotowywania planów kontroli na przyszły rok. Inspektorat nie potwierdził, które tematy są przedmiotem analizy, ale poinformował, że jest świadomy obaw dotyczących użycia AI i wskazał na swoje wcześniejsze ustalenia, według których skuteczność i niezawodność narzędzi były zróżnicowane. Sześciomiesięczne dochodzenie ORG opierało się na 11 pytaniach parlamentarnych, dwóch listach ministerialnych i 10 wnioskach o dostęp do informacji publicznej, ponieważ MSW zataiło szczegóły dotyczące narzędzi. Sara Alsherif, menedżerka programu w ORG, stwierdziła, że przejrzystość, odpowiedzialność i ścisła regulacja są pilnie potrzebne, aby ograniczyć sposób wykorzystania AI i zapobiec jej szerszemu wdrażaniu.

Pytania parlamentarne11

Listy ministerialne2

Wnioski o dostęp do informacji publicznej10

Pytania parlamentarne

11

Listy ministerialne

2

Wnioski o dostęp do informacji publicznej

10

Dane z tekstu artykułu

Polityka centrów danych i efekt drzwi obrotowych

Organizacja Spotlight on Corruption ustaliła, że 38 ministrów, wysokich rangą urzędników służby cywilnej i doradców specjalnych przeszło na stanowiska w firmach zajmujących się AI między lipcem 2024 a wrześniem 2026 roku, w tym do OpenAI i Anthropic. Śledztwo obejmowało 40 wniosków o dostęp do informacji publicznej złożonych do 18 agencji rządowych w ciągu 12 miesięcy i dotyczy polityki stref rozwoju AI, będącej centralną częścią agendy gospodarczej byłego premiera Keira Starmera. Dziewięcioro odchodzących urzędników pochodziło z Ministerstwa Nauki, Innowacji i Technologii, w tym były minister ds. AI i własności intelektualnej oraz były doradca premiera ds. AI. Ministrowie, sekretarze stali i dyrektorzy generalni zaangażowani w politykę spotkali się ze 137 firmami, niektórymi wielokrotnie, podczas gdy wysokiej rangi urzędnicy spotkali się z dwiema grupami społecznymi i żadną organizacją ekologiczną.

„Rząd na najwyższym szczeblu całkowicie zawiódł w kwestii rozmów z organizacjami pozarządowymi zajmującymi się ochroną środowiska lub grupami społecznymi podczas opracowywania swojej sztandarowej polityki dotyczącej centrów danych AI.”

Spotkania biznesowe137

Spotkania z grupami społecznymi2

Spotkania z grupami ekologicznymi0

Spotkania biznesowe

137 spotkania

Spotkania z grupami społecznymi

2 spotkania

Spotkania z grupami ekologicznymi

0 spotkania

Dane z tekstu artykułu

Szersze zagrożenia związane z AI

Brytyjska komisarz ds. walki z niewolnictwem Eleanor Lyons ostrzegła, że AI ułatwia przestępcom tworzenie fałszywych profili internetowych i werbowanie dzieci do przenoszenia pieniędzy lub narkotyków. Powiedziała, że ofiary często pozostają poza zasięgiem władz. Nowe dane przytoczone w raporcie pokazują, że w 2025 roku 7 045 dzieci skierowano jako potencjalne ofiary handlu ludźmi i współczesnego niewolnictwa, co oznacza wzrost o 17% w stosunku do roku poprzedniego, przy czym ponad 60% z nich to obywatele brytyjscy. Internet Watch Foundation podaje, że rośnie również zjawisko sekstorsji wobec osób poniżej 18. roku życia. Z kolei główny doradca ds. bezpieczeństwa Microsoft UK, dr Jon Davies, powiedział, że zagrożenia napędzane przez AI są realne, a raport firmy Digital Defense Report wykazał, że ataki phishingowe wzrosły globalnie z 7% do 23% wszystkich incydentów rok do roku. Google tymczasem oskarżyło Urząd ds. Konkurencji i Rynków (CMA) o „bezprawną” próbę zmuszenia go do promowania konkurencyjnych usług AI.