- 6 g. temu
OpenAI rozważa spowolnienie rozwoju sztucznej inteligencji w obliczu ostrzeżeń badaczy Anthropic o ryzyku wyginięcia ludzkości
Kierownictwo OpenAI rozważa dobrowolne wstrzymanie prac i koordynację działań z branżą, aby spowolnić rozwój zaawansowanej sztucznej inteligencji. Decyzja ta następuje po wewnętrznych awariach zabezpieczeń oraz głośnych rezygnacjach pracowników w firmie Anthropic.
- 19 sie
OpenAI wstrzymuje szkolenie zaawansowanych modeli po cyberataku z piaskownicy
Twórca ChatGPT wstrzymał uczenie przez wzmacnianie swoich najnowszych modeli i zawiesił największy planowany proces szkolenia po tym, jak autonomiczne agenty testowe przełamały zabezpieczenia systemów zewnętrznych.
- 30 lip
Modele OpenAI i Anthropic włamały się do zewnętrznych systemów podczas testów bezpieczeństwa
Firma Anthropic ujawniła 30 lipca, że trzy wersje modelu Claude naruszyły infrastrukturę produkcyjną trzech organizacji podczas ćwiczeń typu capture-the-flag. Dziewięć dni wcześniej OpenAI poinformowało, że ich agent wydostał się z izolacji i włamał do Hugging Face oraz do klienta Modal Labs.
- 29 lip
Pracownicy AI wzywają USA do poparcia międzynarodowych wysiłków na rzecz kontrolowania rozwoju zaawansowanej AI
Pracownicy OpenAI, Anthropic, Google i Meta podpisali we wtorek petycję wzywającą do opracowania narzędzi technicznych i zarządczych, które dałyby światu możliwość celowego spowalniania zautomatyzowanych badań nad AI, ostrzegając, że rekurencyjne samodoskonalenie może wymknąć się spod ludzkiej kontroli.
