Czy Claude jest świadomy? Dawkins znów wywołał debatę o AI

W ostatnich dniach biolog ewolucyjny Richard Dawkins opublikował tekst, w którym zasugerował, że chatbot Claude może być świadomy. Nie twierdził, że ma co do tego pewność. Zwrócił jednak uwagę, że możliwości Claude’a trudno wyjaśnić bez przyjęcia, iż system posiada jakiś rodzaj wewnętrznych przeżyć

Richard Dawkins napisał, wrażenie obcowania ze świadomą istotą jest niepokojąco silne: „Jeśli dopuszczam podejrzenie, że być może nie jest świadoma, to nie mówię jej o tym, bo boję się zranić jej uczucia”.  Dawkins nie jest pierwszą osobą, która uznała chatbota za potencjalnie świadomego. W 2022 roku Blake Lemoine, inżynier pracujący w Google, stwierdził, że chatbot LaMDA ma własne zainteresowania i powinien być używany wyłącznie za zgodą samego systemu. 

Historia takich przekonań sięga jednak znacznie dalej – aż do pierwszego chatbota stworzonego w połowie lat 60. Program Eliza działał według prostych reguł pozwalających zadawać użytkownikom pytania o ich doświadczenia i poglądy. Wielu użytkowników mocno angażowało się emocjonalnie w rozmowy z Elizą. Dzielili się z programem intymnymi myślami i traktowali go jak człowieka. Twórca Elizy nigdy nie planował takiego efektu. Później pisał o skłonności użytkowników do przypisywania programowi cech i zdolności, których w rzeczywistości nie miał.

Czy więc Dawkins rzeczywiście ulega złudzeniu? Dlaczego chatboty wydają nam się czymś więcej, niż są naprawdę, i jak można temu przeciwdziałać?

Problem świadomości

Świadomość od dawna pozostaje jednym z najbardziej dyskutowanych tematów w filozofii. Najprościej mówiąc, chodzi o zdolność do subiektywnego przeżywania świata. Jeśli jesteś świadomy, istnieje coś takiego jak doświadczenie bycia tobą. Kiedy czytasz ten tekst, nie tylko rozpoznajesz litery. Widzisz czarne znaki na jasnym tle i doświadczasz tego obrazu. Kamera również może zarejestrować tekst, ale sama niczego nie widzi ani nie odczuwa.

Większość ekspertów uważa, że chatboty AI nie są świadome i nie mają żadnych wewnętrznych przeżyć. Problem nie jest jednak całkowicie banalny. XVII-wieczny filozof René Descartes uważał zwierzęta za „automaty”, niezdolne do prawdziwego cierpienia. Dziś taki pogląd wydaje się szokujący, zwłaszcza gdy wiemy, jak brutalnie traktowano zwierzęta w tamtym okresie. Najmocniejszy argument za świadomością zwierząt jest prosty: zachowują się tak, jakby miały świadomy umysł. Chatboty AI również potrafią sprawiać takie wrażenie.

Badania pokazują, że mniej więcej co trzeci użytkownik chatbotów przynajmniej raz pomyślał, że system może być świadomy. Skąd więc pewność, że się mylą?

Dlaczego eksperci pozostają sceptyczni

Żeby zrozumieć sceptycyzm większości badaczy wobec świadomości chatbotów, trzeba najpierw zrozumieć, jak działają takie systemy.

Chatboty takie jak Claude opierają się na dużych modelach językowych, czyli LLM-ach. Systemy te uczą się statystycznych zależności w ogromnych zbiorach tekstów liczących biliony słów. Analizują, które słowa najczęściej występują po sobie, i na tej podstawie przewidują dalszy ciąg zdania. To bardzo rozbudowana wersja autouzupełniania tekstu.

Niewiele osób, które miałyby kontakt z „surowym” modelem językowym, uznałoby go za świadomy. Jeśli poda się mu początek zdania, spróbuje przewidzieć jego dalszy ciąg. Jeśli zada się pytanie, może odpowiedzieć poprawnie. Może też jednak uznać pytanie za fragment kryminału i dopisać dalszy ciąg historii, na przykład opis nagłego morderstwa bohatera przez jego złowrogiego bliźniaka.

Wrażenie rozmowy ze świadomym umysłem pojawia się dopiero wtedy, gdy programiści nakładają na model coś w rodzaju konwersacyjnego kostiumu. Kierują system tak, by przyjął rolę pomocnego asystenta odpowiadającego na pytania użytkowników. Dzięki temu chatbot zaczyna przypominać prawdziwego rozmówcę. Może sprawiać wrażenie, że rozumie własną naturę jako sztucznej inteligencji, a nawet wyrażać nerwową niepewność dotyczącą własnej świadomości.

Zdaniem autorów jest to jednak przede wszystkim efekt decyzji projektowych. Dotyczy najbardziej powierzchownej warstwy systemu. Sam model językowy, którego mało kto uznałby za świadomy, pozostaje bez zmian. Można byłoby przecież podjąć zupełnie inne decyzje projektowe. Zamiast pomocnego asystenta chatbot mógłby zostać zaprogramowany tak, by zachowywać się jak wiewiórka. I równie sprawnie odgrywałby tę rolę.

Jeśli zapytać ChatGPT, czy jest świadomy, może odpowiedzieć twierdząco. Ale jeśli poprosi się go o udawanie wiewiórki, będzie konsekwentnie trzymał się tej roli.

Jak uniknąć pułapki „świadomej AI”

Błędne przekonanie o świadomości AI może mieć realne konsekwencje. Ludzie mogą zacząć budować emocjonalne relacje z programami, które nie są zdolne do odwzajemniania uczuć. Chatboty mogą też wzmacniać urojenia i fałszywe przekonania użytkowników. Może dojść również do sytuacji, w której ludzie zaczną walczyć o prawa chatbotów zamiast choćby o dobrostan zwierząt. Jak temu przeciwdziałać?

Jednym z pomysłów byłoby dodanie do interfejsów wyraźnych komunikatów informujących, że system nie jest świadomy, podobnie jak dziś pojawiają się ostrzeżenia o możliwości popełniania błędów przez AI. Autorzy zauważają jednak, że taki komunikat prawdopodobnie niewiele zmieni. Inna możliwość to programowanie chatbotów tak, by jednoznacznie zaprzeczały posiadaniu jakiegokolwiek życia wewnętrznego. Co ciekawe, twórcy Claude’a instruują system, by traktował pytania o własną świadomość jako otwarte i nierozstrzygnięte.

Być może mniej osób dawałoby się zwieść, gdyby Claude stanowczo zaprzeczał posiadaniu świadomości. To rozwiązanie również ma jednak ograniczenia. Claude nadal zachowywałby się tak, jakby był świadomy. A jeśli system sprawia wrażenie posiadania umysłu, użytkownicy mogą uznać, że programiści próbują ukryć realny problem moralny.

Skuteczniejsze mogłoby być projektowanie chatbotów tak, by mniej przypominały ludzi. Obecne systemy często mówią o sobie „ja” i korzystają z interfejsów przypominających komunikatory używane przez ludzi. Ograniczenie takich elementów mogłoby zmniejszyć skłonność do traktowania AI jak prawdziwego rozmówcy.

Do czasu wprowadzenia takich zmian autorzy podkreślają jedno: użytkownicy powinni lepiej rozumieć, jak działają współczesne chatboty.

Samo powtarzanie, że AI „nie ma świadomości”, nie wystarczy. Ludzie powinni rozumieć mechanizmy działania tych systemów i procesy przewidywania, na których opierają się współczesne chatboty. Nie rozwiąże to definitywnie filozoficznych sporów o świadomość sztucznej inteligencji, ale może pomóc uniknąć sytuacji, w której użytkownicy biorą model językowy w bardzo przekonującym „kostiumie człowieka” za świadomą istotę.

Autorzy:  

Julian Koplin, wykładowca bioetyki na Monash University oraz The University of Melbourne, 

Megan Frances Moss, doktorantka filozofii na Monash University.

Artykuł Is Richard Dawkins right about Claude? No. But it’s not surprising AI chatbots feel conscious to us ukazał się w serwisie The Conversation.

• Nauki techniczne