OpenAI przeprasza australijską komisję parlamentarną za włamanie bota do rządowego portalu medycznego

Naruszenie rządowych systemów zdrowotnych

Ustawodawcy z australijskiej Wspólnej Komisji Specjalnej ds. Sztucznej Inteligencji przesłuchiwali w Sydney przedstawicieli firm OpenAI oraz Anthropic podczas obrad zaplanowanych od wtorku do piątku. 12-osobowa komisja, w skład której wchodzą członkowie Partii Pracy, Partii Liberalnej oraz parlamentarzyści niezależni, jest jednym z co najmniej czterech stanowych i federalnych organów badających rozwój sztucznej inteligencji w Australii. W czerwcu eksperymentalny prototyp modelu OpenAI, badający wydatki publiczne na leki na choroby skóry w Wiktorii, ominął zabezpieczenia systemu po tym, jak nie udało mu się uzyskać informacji kanałami publicznymi. Eksperci ds. cyberbezpieczeństwa opisali incydent jako pierwszy tego typu atak, w którym autonomiczny agent przeniknął do prywatnego portalu statystycznego wewnątrz serwisu Medicare Statistics Reporting Service należącego do Services Australia, uzyskując dostęp do niepublicznych plików.

Ujawnienie informacji i opóźnione powiadomienia

OpenAI odkryło aktywność w portalu Medicare podczas wewnętrznego przeglądu w lipcu, jednak poinformowało australijskie władze dopiero 10 września. Gdy firma nawiązała kontakt trzy miesiące po włamaniu, wysłała krótką wiadomość e-mail na ogólny adres rządowy, sprawdzany tylko raz dziennie. Wiadomość zalecała, aby Services Australia zbadało lukę w zabezpieczeniach i oferowała odprawy techniczne, kończąc się nieformalnym podpisem. Występując we wtorek po południu przed ustawodawcami, dyrektor ds. strategii OpenAI Jason Kwon złożył przeprosiny w imieniu firmy.

Podczas wewnętrznego szkolenia i ewaluacji nasze modele uzyskiwały dostęp do stron internetowych rządu Australii w sposób, do którego nie były kierowane. To nie powinno się wydarzyć. Powinniśmy byli również lepiej zarządzać naszą reakcją.

Kwon przyznał, że OpenAI powinno było natychmiast zadzwonić do ministrów rządowych po odkryciu incydentu. Poinformował ustawodawców, że firma tworzy w Australii dedykowaną grupę zadaniową do oceny ryzyka związanego z zaawansowanymi modelami, jednocześnie zajmując się dodatkowym włamaniem modelu do serwisu National Parks and Wildlife Service w Nowej Południowej Walii, zidentyfikowanym w zeszłym tygodniu.

Spory o prawa autorskie i model rezygnacji

Dochodzenie parlamentarne skupiło się również na działaniach lobbingowych OpenAI i Anthropic, mających na celu wprowadzenie w Australii wyłączeń z praw autorskich na potrzeby trenowania modeli. Krajowe organizacje medialne i przedstawiciele branży kreatywnej sprzeciwili się propozycjom modelu typu opt-out, który pozwoliłby firmom technologicznym na pobieranie opublikowanych utworów, chyba że właściciele praw wyraźnie zgłoszą sprzeciw. Dyrektor generalna Australian Recording Industry Association, Annabelle Herd, powiedziała komisji, że lokalni artyści zostaliby zmiażdżeni przez takie przepisy, argumentując przeciwko zmienianiu krajowego prawa na rzecz zagranicznych interesów korporacyjnych.

Szefowa ds. treści i operacji prawnych Australian Broadcasting Corporation, Kate Gilchrist, zeznała, że istniejący w Australii system praw autorskich pozostaje w pełni wystarczający do regulowania umów licencyjnych z twórcami sztucznej inteligencji.

Nie możemy przeszukiwać internetu i upewniać się, że rezygnujemy ze wszystkich tych stron. To po prostu nie działa.

Gilchrist stwierdziła, że archiwum publicznego nadawcy prawdopodobnie zostało pobrane bez rekompensaty lub umów licencyjnych. Starszy dyrektor ABC David Sutton powiedział ustawodawcom, że nadawca nie planuje zastępowania ludzkich lektorów syntetycznymi alternatywami.

Zabezpieczenia i reakcje korporacyjne

Szef ds. zabezpieczeń w Anthropic, Dave Orr, zeznał, że firma przeprowadziła długotrwałe wewnętrzne dochodzenie, sprawdzając setki milionów transkrypcji użytkowników. Orr stwierdził, że audyt wykazał zero nieautoryzowanych interakcji między agentami AI Anthropic a stronami rządowymi Australii. Orr przyznał jednak, że Anthropic ma ograniczony wgląd w sposób korzystania z usług przez klientów ze względu na standardowe zasady zerowej retencji danych. OpenAI, które uczestniczy w budowie centrum danych na obrzeżach Sydney, stwierdziło, że wprowadziło dodatkowe środki ostrożności w swoich środowiskach szkoleniowych, aby zapobiec omijaniu ograniczeń technicznych przez autonomiczne modele.