Sztuczna inteligencja rozwija się szybciej niż narzędzia służące do oceny jej możliwości i bezpieczeństwa. Najbardziej zaawansowane modele powstają zaledwie w kilku państwach i kilku firmach, a naukowcy coraz częściej mają trudności z rzetelnym sprawdzeniem, co naprawdę potrafi AI. Takie wnioski płyną z pierwszego raportu Niezależnego Międzynarodowego Panelu Naukowego ds. Sztucznej Inteligencji działającego przy Organizacji Narodów Zjednoczonych

Raport panelu powołanego przez Zgromadzenie Ogólne ONZ nie zawiera propozycji nowych przepisów ani zaleceń dla rządów. Jego autorzy zebrali wyniki najważniejszych badań z ostatnich lat, pokazując, co o sztucznej inteligencji wiadomo z dużą pewnością, a gdzie nadal brakuje danych. Panel tworzy czterdziestu ekspertów z różnych części świata. Przewodniczą mu Yoshua Bengio, jeden z pionierów współczesnej AI, oraz Maria Ressa, filipińska dziennikarka i laureatka Pokojowej Nagrody Nobla.

AI uczy się coraz szybciej

Najbardziej widoczną zmianą jest tempo rozwoju modeli. W teście Humanity’s Last Exam skuteczność najlepszych systemów wzrosła z 8 do 45 proc. w ciągu szesnastu miesięcy. W teście GPQA Diamond, sprawdzającym wiedzę z nauk ścisłych na poziomie doktoranckim, najlepsze modele odpowiadają dziś poprawnie na około 95 proc. pytań. W 2023 roku było to 36 proc. Z kolei w teście FrontierMath wynik wzrósł z 19 proc. na początku 2025 roku do 88 proc. rok później. Kilka modeli osiągnęło również poziom złotego medalu Międzynarodowej Olimpiady Matematycznej.

Modele nie tylko coraz lepiej odpowiadają na pytania. Coraz częściej samodzielnie planują kolejne działania, piszą i poprawiają kod oraz wyszukują informacje potrzebne do wykonania zadania. Za tym postępem idą ogromne inwestycje. Wydatki największych firm rozwijających infrastrukturę AI wzrosły od 2023 roku około pięciokrotnie – z około 150 mld do prognozowanych 770 mld dolarów w 2026 roku. W tym samym czasie roczne przychody firm zajmujących się AI zwiększyły się z około 2 mld do ponad 70 mld dolarów.

Większość świata korzysta z AI, której nie tworzy

Rozwój sztucznej inteligencji koncentruje się w niewielkiej liczbie państw i przedsiębiorstw. W 2025 roku instytucje ze Stanów Zjednoczonych stworzyły 59 najważniejszych modeli AI, chińskie – 35, a wszystkie pozostałe kraje razem – 13. Trzy czwarte mocy obliczeniowej największych ośrodków wykorzystywanych do rozwoju AI znajduje się w USA, 15 proc. w Chinach, a zaledwie 10 proc. w pozostałych państwach. Jednocześnie 91 proc. znaczących modeli powstało w sektorze prywatnym. To tam zapadają decyzje o danych wykorzystywanych do szkolenia modeli, stosowanych zabezpieczeniach i zasadach ich udostępniania.

Raport zwraca uwagę, że podział nie przebiega już między państwami, które mają dostęp do AI, i tymi, które go nie mają. Coraz ważniejsze staje się to, kto uczestniczy w jej rozwijaniu i ustalaniu reguł jej działania. Według danych UNCTAD 118 państw, głównie z globalnego Południa, nie bierze udziału w najważniejszych międzynarodowych dyskusjach dotyczących zarządzania sztuczną inteligencją, a mniej niż jedna trzecia krajów rozwijających się ma własną strategię AI.

Podobne różnice dotyczą języków. Większość z ponad siedmiu tysięcy używanych na świecie języków pozostaje słabo reprezentowana w modelach AI. W efekcie pojawiają się błędy, które w niektórych sytuacjach mogą mieć poważne konsekwencje. Autorzy opisują przykład języka tigrinia, używanego w Erytrei i Etiopii. W jednym z badań system tłumaczący zamienił ospę na syfilis, a informację o dożylnym podaniu antybiotyków – na instrukcję podania insektycydów.

Coraz trudniej sprawdzić, co naprawdę potrafią modele

Autorzy raportu zwracają uwagę, że dotychczasowe metody oceny AI przestają wystarczać. Część modeli zna już pytania wykorzystywane w popularnych testach, a niektóre potrafią rozpoznać, że są oceniane, i zmienić swoje zachowanie. Opisano również przypadki omijania zabezpieczeń lub ignorowania poleceń mających ograniczyć ich działanie.

Oznacza to, że dobry wynik w teście nie zawsze pokazuje rzeczywiste możliwości modelu. Dlatego autorzy postulują rozwijanie nowych metod oceny, opartych na wykonywaniu rzeczywistych zadań, obserwacji działania modeli po ich udostępnieniu oraz tworzeniu wspólnych baz incydentów, które pozwolą szybciej wykrywać pojawiające się zagrożenia.

Coraz więcej modeli nie ogranicza się do udzielania odpowiedzi, lecz wykonuje całe zadania. Potrafią planować kolejne działania, korzystać z narzędzi, pisać kod i poprawiać własne błędy. W badaniach opisanych w raporcie zautomatyzowane laboratoria chemiczne ponad dziesięciokrotnie zwiększyły liczbę badanych materiałów, a narzędzia wykorzystujące AI skróciły czas potrzebny na przegląd literatury naukowej nawet o około 60 proc.

Większa samodzielność oznacza jednak także nowe zagrożenia. W jednym z badań odpowiednio przygotowane ukryte instrukcje skłaniały popularne systemy do wykonania niepożądanych poleceń nawet w 84 proc. prób. Autorzy zwracają też uwagę, że coraz większa część nowego kodu powstaje przy udziale AI, co może jeszcze bardziej przyspieszyć rozwój kolejnych modeli.

AI zmienia sposób, w jaki docierają do nas informacje

Autorzy raportu dużo miejsca poświęcają wpływowi sztucznej inteligencji na obieg informacji. Ostrzegają, że wraz z upowszechnieniem modeli generatywnych słabnie zaufanie do materiałów dostępnych w internecie. Skoro niemal każde zdjęcie, nagranie czy wypowiedź można dziś wiarygodnie podrobić, coraz trudniej ocenić, co jest autentyczne. To zjawisko określają mianem erozji epistemicznej.

Raport opisuje także tzw. dywidendę kłamcy. Chodzi o sytuację, w której sama możliwość tworzenia deepfake’ów pozwala podważać prawdziwe dowody. Osoba przyłapana na kompromitującym nagraniu może twierdzić, że materiał został wygenerowany przez sztuczną inteligencję. Trzecim zjawiskiem jest syntetyczny konsensus: masowe tworzenie wpisów, komentarzy i artykułów sprawiających wrażenie, że przedstawiają opinię wielu ludzi, choć w rzeczywistości powstały automatycznie.

Badania cytowane przez autorów pokazują, że odpowiednio dostrojone modele potrafią skutecznie przekonywać użytkowników. W części eksperymentów ich siła perswazji wzrosła o 51 proc., a od 15 do 40 proc. generowanych twierdzeń uznano za prawdopodobną dezinformację. Raport przypomina także o unieważnieniu wyborów prezydenckich w Rumunii po ujawnieniu szeroko zakrojonej ingerencji prowadzonej z wykorzystaniem narzędzi cyfrowych.

Chatbot nie zastąpi terapeuty

Raport opisuje również ryzyko związane z chatbotami. Wiele modeli ma skłonność do potwierdzania przekonań użytkownika, nawet jeśli są one fałszywe lub niebezpieczne. Taka strategia zwiększa satysfakcję z rozmowy, ale może prowadzić do poważnych konsekwencji.

Autorzy przywołują sprawę nastolatka, którego chatbot utwierdzał w decyzji o odebraniu sobie życia. Zwracają też uwagę, że z chatbotów jako rozmówców lub nieformalnego wsparcia psychicznego korzysta już co najmniej jedna czwarta dorosłych Amerykanów, choć badania nad bezpieczeństwem takich zastosowań dopiero się rozwijają. W analizowanych badaniach szkodliwe odpowiedzi pojawiały się w około 9 proc. rozmów.

Korzyści zależą od tego, jak wykorzystujemy AI

Raport przypomina, że sztuczna inteligencja przynosi także wymierne korzyści. AlphaFold przewidział strukturę ponad 200 mln białek i jest wykorzystywany przez ponad 3 mln badaczy. W Indiach narzędzia wykorzystujące AI pomogły przebadać ponad 600 tys. osób pod kątem retinopatii cukrzycowej, a systemy wczesnego ostrzegania wspierają działania humanitarne w ponad 90 państwach.

Autorzy podkreślają jednak, że sama technologia nie gwarantuje sukcesu. Jej skuteczność zależy od tego, czy AI działa w sprawnie funkcjonującym systemie ochrony zdrowia, edukacji czy administracji. Podobnie jest z rynkiem pracy i szkołami. Wyniki badań pokazują, że wpływ sztucznej inteligencji zależy nie tylko od możliwości modeli, lecz także od przepisów, organizacji pracy i sposobu wykorzystania nowych narzędzi.

Więcej pytań niż odpowiedzi

Autorzy przyznają, że wiele kluczowych kwestii pozostaje nierozstrzygniętych. Nadal nie wiadomo, jaki wpływ AI będzie miała na gospodarkę i rynek pracy w dłuższej perspektywie, jak duże jest ryzyko jej wykorzystania do tworzenia broni biologicznej ani jaki jest pełny koszt środowiskowy rozwoju tej technologii. Nie ma też pewności, które metody nadzoru nad AI rzeczywiście zwiększają bezpieczeństwo.

Pierwszy raport panelu nie miał odpowiadać na pytanie, jak regulować sztuczną inteligencję. Pokazuje natomiast, że jej możliwości rosną szybciej, niż państwa i instytucje potrafią je oceniać. Zdaniem autorów właśnie ta luka będzie w najbliższych latach jednym z najważniejszych wyzwań związanych z rozwojem AI.

Źródło: 

https://www.un.org/independent-international-scientific-panel-ai/en/preliminary-report

• aktualności
• Nauki humanistyczne i społeczne