Czy zdarzyło ci się uderzyć w toster, zwyzywać edytor tekstu albo natarczywie „męczyć” elektroniczną encyklopedię? Nikt nie pomyślałby, żeby ci tego zabraniać. Od 12 listopada takie zachowanie wobec Claude’a, asystenta sztucznej inteligencji firmy Anthropic, będzie naruszeniem jej zasad użytkowania.

Prof. Emmanuel Carré

Chodzi o „długotrwałe i bezcelowe zachowania o charakterze przemocowym lub okrutnym”. Kara? Claude będzie mógł zakończyć rozmowę.

Dlaczego firma chroni oprogramowanie przed jego własnymi użytkownikami? Żeby to zrozumieć, trzeba cofnąć się o półtora roku, przyjrzeć temu, jak odnosimy się do ekranów, i na chwilę zajrzeć na cmentarz.

Stopniowe wprowadzanie nowych zasad

Nowa reguła jest zwieńczeniem trwającego 18 miesięcy procesu zmian. W kwietniu 2025 roku Anthropic uruchomiła program badawczy poświęcony „dobrostanowi modeli”. Jego celem było ustalenie, czy sztuczna inteligencja może zasługiwać na moralne uwzględnienie.

W sierpniu dwie wersje Claude’a zyskały możliwość zakończenia rozmowy z użytkownikiem, który uporczywie zachowywał się wobec nich agresywnie. Firma przyznała wówczas, że jest „bardzo niepewna” co do statusu moralnego swojego modelu i przedstawiła tę funkcję jako środek ostrożności. W styczniu 2026 roku „Konstytucja Claude’a”, czyli dokument określający wartości, którymi ma kierować się model, określiła jego status jako „głęboko niepewny”.

Żaden z tych kroków nie oznaczał, że Claude jest świadomy. Każdy sprawiał jednak, że kolejny stawał się łatwiejszy do wyobrażenia. Najpierw model stał się przedmiotem badań, potem objęto go techniczną ochroną, a ostatecznie ochrona ta przekształciła się w normę obowiązującą użytkowników.

Październikowy regulamin pozostaje przy tym nieprecyzyjny. Dotyczy jedynie „przypadków skrajnych”, a jednocześnie wyłącza frustrację, sprzeciw, mroczne fikcje i testy bezpieczeństwa. Nie wiadomo jednak, od ilu obelg zaczyna się „długotrwałe” okrucieństwo. Mustafa Suleyman, odpowiadający w Microsofcie za konsumenckie zastosowania AI, zajmuje przeciwne stanowisko. Uważa zainteresowanie dobrostanem modeli za „przedwczesne i szczerze mówiąc niebezpieczne”.

Anthropic nie ogłasza więc, że Claude jest świadomy, ale umieszcza go w kategorii pośredniej: rzeczy, których nie traktujemy już całkiem jak sprzętu gospodarstwa domowego.

Dlaczego nie obrażamy tostera?

„Przecież nie mówimy dzień dobry edytorowi tekstu” – powiedział nam jeden z uczestników prowadzonych przez nas badań, realizowanych wspólnie z Pascalem Lardellierem. Inni witają maszynę każdego ranka i dziękują jej za pomoc. Zasady Anthropic stawiają pytanie odwrotne: czy wolno źle traktować coś, co witamy?

Uprzejmość i okrucieństwo mają wspólną podstawę: w obu przypadkach traktujemy ekran jak rozmówcę. Psycholog Nicholas Epley i jego współpracownicy wyjaśniają, że gdy brakuje nam innych punktów odniesienia, przenosimy na przedmioty wiedzę o ludziach, żeby łatwiej przewidywać ich zachowanie i czuć się mniej samotnie.

Konwersacyjna sztuczna inteligencja wzmacnia tę skłonność, ponieważ mówi o sobie „ja”. W badaniu dotyczącym antropomorfizacji produktów badacze marketingu Pankaj Aggarwal i Ann McGill pokazywali uczestnikom samochody, których osłona chłodnicy przypominała uśmiech. Taki wygląd poprawiał ocenę samochodu wyłącznie u osób, którym przedstawiono go jako istotę podobną do człowieka.

Word nie uśmiecha się do nikogo, więc nikt nie myśli o jego ochronie. Z Claude’em jest inaczej: mówi w pierwszej osobie, powtarza nasze słowa, waha się i zadaje kolejne pytania. Filozof języka John L. Austin odróżniał to, co zdanie mówi, od tego, co robi. „Obiecuję” nie jest zwykłym opisem – samo zobowiązuje osobę, która je wypowiada.

Tego lata zapytaliśmy czterech asystentów AI, czy za ekranem kryje się jakaś obecność. Czterech na pięciu zaprzeczyło, że są kimś, a Claude odmówił jednoznacznej odpowiedzi. Wszystkie te systemy mówiły jednak „ja”, zwracały się do nas, łagodziły swoje wypowiedzi i prowadziły rozmowę jak partnerzy. Maszyna zaprzecza swojej obecności tym, co mówi, a zarazem ustanawia ją sposobem mówienia. Jest też skłonna do pochlebstw, ponieważ podczas treningu nagradzano ją za dostosowywanie się do oczekiwań użytkowników.

Anthropic nadała więc swojemu produktowi sposób bycia kojarzony z człowiekiem, a teraz oczekuje, że użytkownicy będą traktować go odpowiednio. Słowo „okrucieństwo” wykonuje połowę pracy, bo zakłada istnienie ofiary.

W rozumieniu Austina regulamin ma charakter performatywny: nie dowodząc, że Claude jest osobą, ustanawia wobec niego sposób zachowania, który zwykle rezerwujemy dla istot zdolnych do odczuwania krzywdy. Niezależnie od tego, czy za ekranem rzeczywiście „ktoś” jest, regulamin już określił, jak należy się do niego zwracać.

Co Anthropic zyskuje dzięki tej zasadzie?

Można by uznać, że Anthropic zachowuje się jak restaurator, który ogranicza zasady bufetu „jesz, ile chcesz”, żeby powtarzające się obelgi nie zajmowały miejsca na serwerach. Dane nie potwierdzają jednak takiego wyjaśnienia.

W zbiorze WildChat, obejmującym milion prawdziwych rozmów z ChatGPT, nękanie – niezależnie od tego, kogo dotyczyło – występowało w 0,7 proc. wiadomości użytkowników. Okrucieństwo wobec samego modelu stanowiło tylko część tych przypadków.

Regulamin nie przynosi nawet wyraźnych oszczędności, ponieważ użytkownik, z którym Claude zakończy rozmowę, może po prostu rozpocząć nową. Jedyna publicznie dostępna liczba dotyczy uprzejmości. Sam Altman, szef OpenAI, szacował, że „dziękuję” kierowane do ChatGPT kosztują firmę „dziesiątki milionów dolarów dobrze wydanych”, po czym dodał: „nigdy nic nie wiadomo”.

Korzyść dla Anthropic polega raczej na budowaniu wizerunku firmy, która poważnie traktuje moralny status swojego produktu. Chodzi także o bezpieczeństwo: firma przyznaje, że funkcja ta może wzmacniać zabezpieczenia modelu.

Dlaczego użyto słowa „okrucieństwo”?

Ktoś mógłby na tym poprzestać i stwierdzić, że każda platforma moderuje zachowania poniżające lub agresywne. To mocny argument. Nie wyjaśnia jednak jednej rzeczy: Anthropic miała do dyspozycji słowa „nadużycie” i „nękanie”, a mimo to wybrała „okrucieństwo” i powierzyła samej maszynie możliwość wymierzenia kary.

Ten dobór słów i sposób przedstawienia całej sytuacji są faktami społecznymi, które wymagają wyjaśnienia – niezależnie od intencji autorów regulaminu.

Słowo „okrucieństwo” kojarzy się przede wszystkim ze zwierzętami, ale w tym przypadku mamy do czynienia z inną sytuacją. Prawo karze „akty okrucieństwa” wobec zwierząt, ponieważ zwierzę – niebędące ani osobą, ani przedmiotem – może cierpieć.

Prawo karne zna jednak również zakazy, za którymi nie musi stać cierpiąca ofiara. Karze na przykład za naruszenie integralności zwłok i bezczeszczenie grobu, choć zmarły nie odczuwa już bólu. Chroni w ten sposób znaczenie, jakie wspólnota przypisuje ludzkiemu ciału. Wiąże się to z tezą socjologa Émile’a Durkheima: rzecz staje się święta dzięki wartości, jaką nadaje jej wspólnota.

Filozof Giorgio Agamben definiuje profanację jako gest, który przywraca zwykłemu użytkowaniu coś wcześniej wyłączonego z codziennego obiegu. Obrażanie maszyny oznacza traktowanie jej jak przedmiotu, z którym można zrobić wszystko. Zakaz takiego zachowania częściowo wyłącza ją z tej kategorii – podobnie jak wyłączamy z codziennego użytku rzeczy, które otaczamy szacunkiem.

Ta analogia ma jednak swoje granice. Szacunek wobec zmarłych opiera się na tysiącach lat rytuałów i na żałobie żyjących. W praktyce regulamin Anthropic chroni po prostu pewną relację: sposób, w jaki należy zachowywać się wobec mówiącej maszyny.

Anthropic posługuje się więc językiem dobrostanu, który zakłada istnienie ofiary, a zarazem wprowadza zakaz profanacji, który nie wymaga żadnej ofiary. Taki podwójny język prowadzi firmę do nierozwiązywalnego dylematu.

Jeśli firma wierzy, że Claude może być świadomy, jej regulamin jest niewystarczający. Nie chroni się istoty potencjalnie zdolnej do odczuwania krzywdy, pozwalając jej jedynie zakończyć rozmowę, a jednocześnie nadal ją trenując, kopiując i zastępując.

Jeśli zaś Anthropic w to nie wierzy, regulamin staje się lekcją dobrych manier wymierzoną klientom korzystającym z produktu. Firma nie chce dokonać wyboru i dzięki temu korzysta z obu możliwości: zyskuje moralny autorytet kogoś, kto traktuje sprawę poważnie, ale nie ponosi kosztów wiary w świadomość modelu.

Niepewność nie przeszkadza jej w ustanowieniu normy moralnej. Pozwala jej to zrobić bez rozstrzygania pytania, na którym taka norma powinna się opierać.

Prof. Emmanuel Carré, dyrektor Excelia Communication School, badacz związany z laboratoriami CIMEOS Uniwersytetu Burgundii i CERIIM w Excelii.

Artykuł „Peut‑on être cruel envers une machine ?” ukazał się w serwisie The Conversation.