OpenAI, Google i Anthropic — trzy firmy prowadzące wyścig w dziedzinie sztucznej inteligencji — od lipca regularnie się spotykają, by omówić stworzenie wspólnego organu testującego i audytującego najbardziej zaawansowane modele przed ich wydaniem. Jako pierwszy o rozmowach poinformował The Information, a informację potwierdziły potem Washington Post i inne redakcje.
Pomysł wyszedł od szefa Google DeepMind, Demisa Hassabisa, który 14 lipca opublikował esej proponujący strukturę wzorowaną na FINRA — amerykańskim regulatorze rynku papierów wartościowych — tyle że dla modeli AI na granicy możliwości. Zadaniem takiej instytucji byłaby niezależna ocena ryzyka każdego modelu, zanim trafi do użytkowników: cyberbezpieczeństwo, ryzyko biologiczne, zachowania manipulacyjne.
Zespoły trzech firm, szczebel niżej niż prezesi, od lata negocjują szczegóły: jak często przeprowadzać audyty, kto miałby je prowadzić i przy jakich warunkach model można uznać za wystarczająco bezpieczny do wydania. Sam Altman z OpenAI publicznie poparł ideę organizacji testującej, ale zastrzegł, że duże laboratoria będą musiały zbudować ją same, nie czekając na wsparcie Waszyngtonu.
Informacja pojawiła się tuż po weekendzie, w którym Dario Amodei z Anthropic opublikował esej wzywający do spowolnienia tempa rozwoju AI — a Altman, Elon Musk i sam Hassabis niespodziewanie go poparli. Akcje spółek technologicznych wówczas spadły: inwestorzy odczytali wspólny front rywali jako sygnał, że ryzyko jest poważniejsze, niż wcześniej zakładał rynek.
Pomysł ma sporo sceptyków. Organ nadzorowany przez samą branżę ryzykuje powtórkę konfliktu interesów agencji ratingowych sprzed 2008 roku, gdy oceniający ryzyko byli opłacani przez firmy, które oceniali. Do 2028 roku na rynku może jednocześnie działać 14–16 zaawansowanych modeli, co oznacza stały strumień kontroli, a koszty dostosowania do standardów uderzą mocniej w mniejsze laboratoria niż w gigantów finansujących całe przedsięwzięcie. Otwarte pozostaje też pytanie, jak amerykański organ miałby współistnieć z unijnym kodeksem dobrych praktyk dla modeli AI ogólnego przeznaczenia, który już obowiązuje.
Wcześniejsze próby samoregulacji, jak Frontier Model Forum z 2023 roku, nie przyniosły większych efektów. Czy firmom, które na co dzień rywalizują o klientów i talenty, uda się tym razem dogadać w sprawie wspólnych zasad — nie wiadomo.
