Brad Smith z Microsoftu: pralki i mleko mają surowsze regulacje niż sztuczna inteligencja

Surowsze zasady dla żywności niż dla AI

Prezes Microsoftu Brad Smith stwierdził w wywiadzie dla BBC opublikowanym w poniedziałek 12 października, że pralka podlega obecnie większej liczbie zasad bezpieczeństwa niż sztuczna inteligencja. „Obecnie twoja pralka podlega większej liczbie zasad bezpieczeństwa niż AI. Każdy karton mleka, który widzisz w supermarkecie, podlega zasadom bezpieczeństwa i kontroli” – powiedział. Smith dodał, że branża AI „rozwija się szybciej” niż zespoły ds. bezpieczeństwa, co „nie służy ochronie społeczeństwa. Nie służy to nawet samej branży”.

Wiemy, jak robić to w przypadku innych produktów. Powinniśmy czerpać z tej wiedzy i zastanowić się, jak zastosować ją do AI.

Proponowane zabezpieczenia

Smith wezwał do poddawania modeli częstszym ocenom bezpieczeństwa, prowadzonym przez niezależnych ewaluatorów spoza firm oraz powiązanych z różnymi rządami. Stwierdził, że to oni powinni decydować, czy produkt jest gotowy do udostępnienia publicznego. Zaproponował również „hamulec bezpieczeństwa”, który zatrzymałby lub spowolnił systemy AI wymykające się spod kontroli, oraz prawny obowiązek zgłaszania incydentów przez firmy i informowania osób poszkodowanych, gdy system zachowuje się w sposób nieoczekiwany lub szkodliwy.

Opisał hamulec bezpieczeństwa jako mechanizm mający zastosowanie do każdego systemu AI sterującego autonomicznymi urządzeniami lub infrastrukturą krytyczną, jak podał portugalski „Observador”. Smith dodał, że w przypadku ataków przeprowadzonych przez agentów AI powinien istnieć prawny obowiązek poinformowania ofiary o tym, co się stało, odnosząc się do niedawnych przypadków bez wymieniania konkretnych firm.

Wielka Brytania i Instytut Bezpieczeństwa AI

Smith ocenił, że Wielka Brytania jest najlepiej przygotowana do promowania globalnych zasad dotyczących AI, głównie dzięki Instytutowi Bezpieczeństwa AI utworzonemu za rządów byłego premiera Rishiego Sunaka. „Handelsblatt” poinformował, że testerzy instytutu, którzy dobrowolnie otrzymują wcześniejszy dostęp do modeli od wiodących dostawców, cieszą się wysokim autorytetem.

Spór z Trumpem

Stanowisko Smitha jest sprzeczne z opinią prezydenta USA Donalda Trumpa, który argumentuje, że sektor AI powinien regulować się sam, aby amerykańskie firmy nie przegrały wyścigu z Chinami. Jak podaje „Correio da Manhã”, wielu dyrektorów z branży AI, w tym z Anthropic, OpenAI i Google DeepMind, publicznie poparło spowolnienie rozwoju agentów AI.

Gates ostrzega przed cyberatakami

Bill Gates, współzałożyciel Microsoftu, powiedział w ABC News, że najbardziej dramatyczne wydarzenia w przyszłym roku będą prawdopodobnie dotyczyć cyberataków. „Prawdziwym zagrożeniem w tej chwili nie jest to, że AI wymknie się spod kontroli. Musimy nad tym pracować, ale główne skutki takiego scenariusza są jeszcze kwestią kilku lat” – powiedział, jak podaje rumuński raport cytujący AFP. Gates odrzucił w niedzielę 11 października pomysł, aby firmy zajmujące się AI regulowały się same.