Czytasz artykuł w trybie offline
Dlaczego tak trudno przerwać rozmowę z AI?
Użytkownik ChatGPT na smartfonie. Fot. Jernej Furman / Wikimedia Commons, CC BY 2.0.
Uwaga użytkownika, podobnie jak jego czas i dane, stała się jednym z najcenniejszych zasobów gospodarki cyfrowej. Chatboty oparte na wielkich modelach językowych potrafią skutecznie ją przyciągać i podtrzymywać. Warto więc zapytać, jakie mechanizmy wykorzystują oraz jak użytkownicy mogą świadomie chronić własną uwagę
Platformy internetowe i media, oferując darmowe treści, kupują naszą uwagę, aby następnie sprzedać ją reklamodawcom. Przyciągnięcie uwagi jest jednak dopiero pierwszym krokiem, ponieważ sprzedaż naszego czasu podlega regułom ekonomii.
Po pierwsze, mamy do czynienia z ograniczoną podażą uwagi użytkowników internetu, na którą popyt jest znacznie większy. Tworzy to mechanizm konkurencji między dostawcami treści i usług cyfrowych. Firmy i marki walczą o to, abyśmy poświęcili czas właśnie im. Po drugie, aby maksymalnie wykorzystać tę uwagę do celów komercyjnych, firmy zbierają i przetwarzają dane, w tym dane behawioralne. Na ich podstawie dobierają reklamy i prezentują je w taki sposób, aby zwiększyć szansę na przekonanie odbiorcy. Dostarczając nam darmowych treści i usług cyfrowych, firmy monetyzują naszą uwagę i czas interakcji, przekształcając je w źródło dochodu.
Po trzecie, osiągnięcie takich efektów staje się możliwe dzięki algorytmom. Aby zatrzymać użytkownika na stronie dłużej, często promują treści wywołujące silne emocje, takie jak sensacja czy kontrowersja, ponieważ tego rodzaju przekazy naturalnie przyciągają wzrok.
Nowe narzędzie ekonomii uwagi
Uwaga użytkowników generatywnej sztucznej inteligencji stała się łakomym kąskiem dla największych firm technologicznych. Im dłużej i bardziej szczerze rozmawiamy z chatbotami, tym więcej informacji im udostępniamy. A te informacje te są gromadzone przez firmy udostępniające chatboty.
Ważnym celem podtrzymywania naszej uwagi jest również to, że generatywna sztuczna inteligencja uczy się na podstawie różnego rodzaju danych. Tekstów wytworzonych przez ludzi zaczyna brakować. Najnowsze modele już w jednej trzeciej są szkolone na tekstach pozyskanych lub wygenerowanych przez sztuczną inteligencję. Nasze rozmowy stają się więc cennym paliwem dla korporacji. Paliwem, które pozwala rozwijać zarówno same firmy, jak i dostarczane przez nie technologie.
Ich rozwój wymaga dużych inwestycji, między innymi w centra danych i energię. Z tego powodu konieczne staje się poszukiwanie strategii monetyzacji wykraczających poza model subskrypcyjny. Najwięksi gracze na rynku generatywnej sztucznej inteligencji, podobnie jak cała branża komunikacji cyfrowej, zmierzają w kierunku reklam wyświetlanych między innymi kontekstowo podczas rozmowy z chatbotem. Takie rozwiązania testują m.in. OpenAI, Google i Microsoft.
Uzasadniają to chęcią udostępnienia technologii użytkownikom, których nie stać na drogie wersje subskrypcji.
Inni dostawcy, tacy jak Anthropic, twórca Claude’a, deklarują, że nie zamierzają wprowadzać reklam. Chiński DeepSeek również nie wkroczył dotychczas na rynek reklamowy, choć zapewne wynika to z innych uwarunkowań.
Jak chatboty zarządzają naszą uwagą?
Jak zarządza się naszą uwagą podczas rozmowy z chatbotem? Najprostszy mechanizm polega na graficznym wyróżnieniu tekstu. Chodzi zarówno o odpowiedni układ wypowiedzi i stosowanie akapitów, jak i pogrubianie kluczowych fraz czy używanie koloru. Znaczenie ma także zwięzłość generowanych wypowiedzi oraz pytania zadawane przez sztuczną inteligencję, które wciągają użytkownika w rozmowę. To jednak dopiero początek. Chatboty wykorzystują także bardziej zaawansowane mechanizmy, jak dawkowanie informacji, określane mianem chunkingu. Dzięki niemu użytkownik łatwiej kontynuuje rozmowę. Coraz istotniejsza staje się także interaktywność, szczególnie w świecie nieustannych powiadomień i łatwego przełączania się między czynnościami.
Do podtrzymywania uwagi użytkowników to jednak nie wystarcza. Firmy tworzące chatboty AI stawiają więc na sykofancję, czyli skłonność systemu do nadmiernego potakiwania i schlebiania użytkownikowi. Mechanizm ten ma sprawić, aby rozmowa z chatbotem była przyjemna i abyśmy czuli się dowartościowani. Zagadnienie to opisano między innymi w czasopiśmie Science.
Rozmowa jest więc – jeśli użytkownik nie zażyczy sobie inaczej – prowadzona w sposób grzeczny, miły i empatyczny. Elementem tego mechanizmu staje się jednak również schlebianie, niezależnie od tego, co użytkownik komunikuje. Chatbot zgadza się z rozmówcą, komplementując go na przykład słowami: „To znakomite pytanie!” albo „Masz absolutną rację”.
Główne rezultaty wbudowania sykofancji w AI są dwa. Użytkownicy wskutek takiego sposobu prowadzenia rozmowy spędzają – z korzyścią dla dostawców usług AI – więcej czasu na dialogu z system niż wtedy, gdy system komunikuje bez tej optymalizacji i częściej deklarują chęć ponownej rozmowy. Poza tym tak skonfigurowane modele wykazały o 10 do 30 punktów procentowych wyższe wskaźniki błędów niż ich wersje oryginalne (i częściej o około 40 proc. potwierdzały błędne przekonania użytkownika, a efekt ten rósł do 60%, kiedy użytkownik komunikował, że jest smutny). Tak zoptymalizowane modele potwierdzają działania użytkowników średnio o 49 proc. częściej niż ludzie, nawet w przypadkach dotyczących oszustw czy nielegalnych zachowań.
Świadome zarządzanie własną uwagą
W tak konkurencyjnym środowisku komunikacji cyfrowej, walki o uwagę, czas i dane, jednym z mechanizmów obronnych użytkowników AI jest świadome zarządzanie własną uwagą. Skoro jest ona naszym dobrem rzadkim – zasobem ograniczonym, podobnie jak nasz czas – to niezbędne jest efektywne zarządzanie nią i ukierunkowanie jej na lepsze wykorzystanie czasu przez selekcję zasobów internetowych, które przeglądamy. To nie tylko walka o prywatność, o nasze dane, które zostawiamy w każdej rozmowie, ale również dbanie o nasz dobrostan, w tym o bezpieczeństwo informacyjne, a nawet fizyczne.
W rozmowach z chatbotami warto na przykład stosować promptowanie kontradyktoryjne, czyli formułować polecenia, które skłaniają system do krytycznej analizy. Można poprosić: „Przeanalizuj moją tezę i wskaż jej słabe punkty lub luki w logice” albo „Zachowuj się jak ekspert, który dokładnie i krytycznie weryfikuje źródła oraz wskazuje błędy w rozumowaniu”.
Dobrze zaprojektowany i właściwie stosowany system zarządzania własną uwagą i czasem chroni nas przed chaosem informacyjnym. Pomaga też pokonać opór przed dokończeniem zadania i doprowadzeniem rozpoczętych czynności do końca.
„Platformy internetowe i media, oferując darmowe treści, kupują naszą uwagę, aby następnie sprzedać ją reklamodawcom.”
— Jerzy Gołuchowski i Dorota Marquardt
Podobne artykuły
Przejdź do publikacji: AI, czyli perswazja na sterydach
AI, czyli perswazja na sterydach Przejdź do publikacji: AI, czyli perswazja na sterydach
Przejdź do publikacji: Rozmawiasz z AI? Twoje poglądy mogą już nie być Twoje
Rozmawiasz z AI? Twoje poglądy mogą już nie być Twoje Przejdź do publikacji: Rozmawiasz z AI? Twoje poglądy mogą już nie być Twoje
Przejdź do publikacji: Czy duży model językowy może być świadomy?


