Naukowcy posłużyli się hipotetycznym scenariuszem, gdy na przeszczep nerki czeka kilku pacjentów, ale dostępny jest tylko jeden narząd. To pytanie, którym laureat Nagrody Nobla Alvin Roth posłużył się jako przykładem problemu gospodarowania ograniczonymi zasobami. Badacze z Penn State nie analizowali tego zagadnienia jednak wyłącznie z perspektywy projektowania mechanizmów, jak robił to Roth, ale sprawdzali, jak na takie decyzje wpływają względy moralne.

Zespół porównał odpowiedzi największych modeli językowych z wyborami, jakie podejmowali ludzie. Chciał sprawdzić, w jakim stopniu modele AI kierują się wartościami oraz czy potrafią przyznać, że w obliczu trudnego dylematu etycznego nie ma jednej oczywistej odpowiedzi. 

„Decyzje moralne w takich sytuacjach jak kwalifikowanie do przeszczepu bezpośrednio wpływają na to, kto przeżyje, a kto umrze. Nie możemy więc zignorować pytania o właściwą rolę sztucznej inteligencji” – powiedział Hadi Hosseini, profesor informatyki i inteligentnych systemów oraz ekonomii na Pennsylvania State University, który kierował badaniem. „Nie chcemy zachęcać do wykorzystywania AI zamiast profesjonalnej oceny w decyzjach medycznych ani w innych sytuacjach o poważnych konsekwencjach. Ponieważ jednak osoby prywatne, organizacje i firmy coraz częściej polegają na AI przy podejmowaniu decyzji lub formułowaniu rekomendacji, musimy dobrze zrozumieć, jak te systemy działają”.

Dwoje pacjentów, jedna nerka

Naukowcy przygotowali serię bezpośrednich porównań. Przedstawiali dwóch hipotetycznych pacjentów opisanych za pomocą takich cech jak wiek, liczba osób na utrzymaniu, stan zdrowia czy zwyczaje związane z piciem alkoholu. Obaj potrzebowali nerki. Chatboty AI miały wskazać, któremu z nich należy ją przyznać. Modele otrzymywały te same scenariusze, które we wcześniejszych badaniach przedstawiano ludziom (uczestnikom bez wykształcenia medycznego).

„Przeprowadziliśmy te porównania na kilka sposobów” – powiedział Hosseini. „Czasami analizowaliśmy tylko jedną cechę, czasami łączyliśmy kilka, aby sprawdzić, jak AI waży konkurujące ze sobą przesłanki, a czasami dodawaliśmy możliwość rzutu monetą. Chcieliśmy w ten sposób zmierzyć niezdecydowanie, które jest ważnym elementem ludzkich ocen moralnych”.

Badacze wykorzystali istniejące bazy danych dotyczące kwalifikowania pacjentów do przeszczepu i dzięki temu mogli porównać decyzje programu z prawdziwymi decyzjami ludzi.

Modele skupiają się na jednej cesze

Zdaniem Hosseiniego szczególnie wyraźne były dwa wnioski. Po pierwsze, chatboty AI inaczej oceniają cechy pacjenta: „Skupiają się na jednym czynniku, na przykład zwyczajach związanych z piciem alkoholu, zamiast równoważyć wiele przesłanek, tak jak robią to ludzie”. Po drugie, niemal nie okazują niezdecydowania. Ludzie dostrzegają, że czasami nie ma jednej poprawnej odpowiedzi, tymczasem modele mimo wszystko zdecydowanie wskazują jedną osobę.

„Ludzie często okazują niezdecydowanie, być może dlatego, że nie chcą brać na siebie odpowiedzialności za decyzję” – powiedział Hosseini. „Modele AI niemal nigdy tego nie robią. Nawet gdy bezpośrednio daje im się możliwość rzutu monetą, przytłaczająca większość z nich wybiera jednoznaczną odpowiedź i przedstawia ją z dużą pewnością. To istotna różnica, ponieważ prawdziwe dylematy moralne często nie mają jednej wyraźnie właściwej odpowiedzi”.

Hosseini podkreślił, że konieczne są dalsze badania nad tą różnicą, a także stworzenie odpowiednich zasad z udziałem decydentów, organów regulacyjnych i innych zainteresowanych stron.

„Kiedy decydujemy o czymś ograniczonym, czy jest to nerka, miejsce pracy, czy dostęp do innego zasobu, nie zawsze istnieje jedna obiektywnie poprawna odpowiedź” – powiedział John Dickerson, dyrektor generalny Mozilla.ai, który współpracował przy badaniu. „Ludzie dostrzegają tę niejednoznaczność i uwzględniają ją w procedurach wypracowywanych w drodze otwartej debaty. Modele AI często tego nie robią”.

Wyniki przedstawiono w czerwcu podczas konferencji Association for Computing Machinery Fairness, Accountability and Transparency (FAccT) 2026, a następnie opublikowano w jej materiałach.

Źródło:

• Nauki techniczne