Gdy większość świata zachwyca się chatbotami, prof. Roman Szewczyk zajmuje się zupełnie inną sztuczną inteligencją. Taką, która steruje urządzeniami, wspiera decyzje i odpowiada za procesy, od których zależy bezpieczeństwo ludzi oraz działanie fabryk

Od czerwca prof. Szewczyk kieruje Instytutem Badań Systemowych PAN, gdzie rozwijane są właśnie takie systemy. Są znacznie mniej efektowne od dużych modeli językowych, ale to od nich zależy, czy linia produkcyjna będzie działać poprawnie, urządzenie wykona właściwy pomiar, a maszyna podejmie bezpieczną decyzję. To tylko jeden z obszarów działalności instytutu, który od dziesięcioleci prowadzi również badania z zakresu analizy systemowej, inteligencji obliczeniowej i wspomagania decyzji. Sam profesor jest badaczem systemów złożonych. Interesuje go  to, czy można zrozumieć sposób działania sztucznej inteligencji, przewidzieć jej decyzje i określić granice błędu. To podejście wyrasta z automatyki, metrologii i wieloletniej współpracy z przemysłem. – Przemysł nie oczekuje ładnej odpowiedzi. Przemysł oczekuje niezawodnej odpowiedzi – mówi prof. Szewczyk w rozmowie z Academią.

Maszyna nie może tylko zgadywać. Czas na wyjaśnialną AI

Wiele współczesnych systemów AI działa jak czarna skrzynka. Otrzymują dane i zwracają wynik, ale trudno wyjaśnić, dlaczego podjęły właśnie taką decyzję. W przypadku chatbota najwyżej pojawi się błędna odpowiedź. W medycynie, transporcie czy przemyśle konsekwencje mogą być znacznie poważniejsze.

Nie wystarczy więc wiedzieć, że system zazwyczaj działa poprawnie. Trzeba również wiedzieć, kiedy może się pomylić, jak duże jest ryzyko błędu i z czego ono wynika. – Sztuczna inteligencja, którą się zajmujemy, opiera się na systemach, które jesteśmy w stanie zrozumieć. A jeśli je rozumiemy, możemy powierzyć im znacznie większą odpowiedzialność – tłumaczy profesor.

Dlatego jednym z najważniejszych kierunków badań w instytucie jest wyjaśnialna sztuczna inteligencja (explainable AI). Jej celem jest nie tylko uzyskanie poprawnego wyniku, ale także możliwość sprawdzenia, w jaki sposób został osiągnięty, oszacowania ryzyka błędu i potwierdzenia, że system działa w określonych granicach. – Potrafimy przewidzieć skuteczność systemu, oszacować niepewność jego działania, powiązać go z metrologią i certyfikować – mówi prof. Szewczyk.

Kluczową rolę odgrywa tu metrologia, czyli nauka o pomiarach. Pozwala określić dokładność urządzenia i granice błędu. Bez takich informacji trudno dopuścić system do pracy tam, gdzie ma sterować maszyną, pojazdem lub procesem technologicznym.

Europa nie musi budować drugiego ChatGPT

Największe modele językowe wymagają gigantycznych centrów danych, kosztownych układów obliczeniowych i dostępu do ogromnych zbiorów danych. W tej części rynku dominują dziś firmy ze Stanów Zjednoczonych i Chin. Zdaniem prof. Szewczyka Europa nie musi ich kopiować. Znacznie większą szansę widzi w rozwoju automatyki, robotyki, systemów pomiarowych oraz sztucznej inteligencji dla przemysłu – obszarów, w których równie ważna jak moc obliczeniowa jest wiarygodność wyniku.

– Europa i Polska uczestniczą w rewolucji związanej ze sztuczną inteligencją w przemyśle. Ona nie wymaga aż tak dużych mocy obliczeniowych, ale wymaga możliwości weryfikacji, sterowania i skutecznego przetwarzania obrazu – mówi dyrektor IBS PAN.

To właśnie taka AI wykrywa wady produktów, ustawia narzędzia z odpowiednią precyzją, kontroluje parametry procesu produkcyjnego czy pomaga dobrać sposób oczyszczania ścieków. Nie prowadzi rozmów z użytkownikami i nie pisze wierszy. Ma po prostu działać – i nie popełniać błędów.

Zainteresowanie Romana Szewczyka techniką zaczęło się od Stanisława Lema. – Znalazłem się tu, gdzie jestem, dzięki czytaniu w dzieciństwie „Bajek robotów” i „Cyberiady”. Nie ma co do tego wątpliwości. Ja się na „Bajkach robotów” wychowałem – mówi profesor.

Dziś pokazuje studentom fragmenty książki, w których Lem opisywał zjawiska przypominające współczesne koncepcje samoorganizacji systemów – na długo przed tym, zanim weszły one do języka informatyki. – Bo „Bajki robotów” to podstawa — powtarza profesor. Sześćdziesiąt lat po ich publikacji Lemowskie pytania o to, jak prześledzić rozumowanie maszyny i ocenić, kiedy może się pomylić, wciąż czekają na odpowiedź. I wciąż szuka się ich w Instytucie Badań Systemowych PAN.

• Nauki techniczne