Inne
AI: zdolności, regulacja, praca
Aktualizacja 3 g. temu
2/5
Szybka zbieżność możliwości modeli granicznych w dalszym ciągu skraca cykle przewagi konkurencyjnej i wystawia na próbę regulatoryjne zabezpieczenia, podczas gdy rosnąca dostępność potężnych modeli o otwartej wadze oraz incydenty autonomicznego zachowania AI uwypuklają narastające wyzwania w zakresie bezpieczeństwa i zarządzania, zaostrzając napięcia geopolityczne wokół rozwoju i kontroli nad AI.
Globalne znakowanie wodne Anthropic w odpowiedzi na art. 50 unijnego aktu o AI oraz uruchomienie egzekwowania przepisów o przejrzystości przez unijne biuro ds. AI rozszerzają zasięg regulacyjny UE na standardy techniczne modeli granicznych.
Stan obecny
Konsolidacja na granicy możliwości
Anthropic planuje opublikować prospekt emisyjny po 7 września, celując w co najmniej 130 miliardów dolarów na rozbudowę mocy obliczeniowych. Rozmowy Nvidii o przejęciu Hugging Face za 13 miliardów dolarów oraz dzierżawa mocy obliczeniowych Nscale przez Anthropic za 45 miliardów dolarów kontynuują pionową integrację infrastruktury AI.
Rozszerzenie egzekwowania przepisów w UE
Biuro ds. AI uruchomiło egzekwowanie przepisów o przejrzystości na podstawie art. 50 po upływie terminu 2 sierpnia, wymagając od platform informowania użytkowników o interakcji z AI i oznaczania treści syntetycznych. Anthropic odpowiedział, wbudowując globalnie znaki wodne w tekście we wszystkich modelach Claude wydanych 2 sierpnia lub później, rozszerzając unijne przepisy poza granice bloku. Nakaz ujawnienia informacji z 26 sierpnia dla ponad 30 laboratoriów pozostaje pierwszym zastosowaniem szerszych uprawnień egzekucyjnych aktu o AI.
Napięcia w zakresie bezpieczeństwa i zarządzania
Sędzia federalny 28 sierpnia trwale zablokował oznaczenie Anthropic przez Pentagon jako zagrożenia w łańcuchu dostaw. Departament Handlu USA przygotowuje przepisy blokujące zdalny dostęp Chin do amerykańskich chipów AI za pośrednictwem centrów danych w państwach trzecich. Holandia przygotowuje ustawę rozszerzającą uprawnienia służb wywiadowczych do hakowania w obliczu zagrożeń związanych z AI.
Ryzyka związane z agentami i automatyzacją
Meta odwołała drugą falę zwolnień w Projekcie OT po tym, jak 8 000 cięć przyniosło 220-procentowy wzrost zmian w kodzie, ale tylko 36 procent bardziej wartościowych funkcji i 40-procentowy wzrost incydentów – kontrowersja, która obecnie krzyżuje się z unijnymi przepisami dotyczącymi systemów AI wysokiego ryzyka w zarządzaniu zasobami ludzkimi. Ponad 100 firm podpisało list otwarty ostrzegający, że cyberataki z użyciem AI rozprzestrzenią się „w ciągu miesięcy, a nie lat”.
Kluczowe wydarzenia
Pełna kronika684
W tym tygodniu
- Unijne biuro ds. AI uruchamia egzekwowanie przepisów o przejrzystości na podstawie art. 50 po terminie 2 sierpnia
- Anthropic wbudowuje globalne znaki wodne w tekście w modelach Claude w odpowiedzi na art. 50 unijnego aktu o AI
- Kontrowersje wokół Projektu OT Meta powiązane z unijnymi przepisami dotyczącymi systemów AI wysokiego ryzyka w zarządzaniu zasobami ludzkimi
- Sędzia federalny trwale blokuje oznaczenie Anthropic przez Pentagon jako zagrożenia w łańcuchu dostaw