spoločnosť OpenAI začiatkom augusta slávnostne predstavila verejnosti nový model umelej inteligencie ChatGPT-5. Jej entuziazmus sa však v reakciách užívateľov neodzrkadlil. Naopak – náhradou všetkých pôvodných modelov za nový predplatitelia stratili progres, rozmanitosť rozhrania a prekvapivo, ľudskosť pôvodného modelu. Veľká časť sťažností na sociálnych sieťach sa pritom sústredila práve na tú poslednú zložku – ľudskosť. Nový model skutočne odpovedal na otázky priamo a nestrácal čas komplimentmi a smajlíkmi.
.v rozhovore s Lenkou Pavukovou Rušarovou sa dozviete aj:
- Aký je rozdiel medzi vzťahom k románovej postave a ChatGPT?
- Je vytvorenie si citového puta s umelou inteligenciou nezdravé?
- Prečo ľuďom chýba prívetivosť v ChatGPT?
- Môže byť socializácia s chatbotmi skôr prínosom ako negatívom?
ľudia sa sťažujú, že s výmenou pôvodných modelov ChatuGPT za nový nestratili len progres, ale aj citové väzby – akoby stratili priateľa či známeho. Ako je možné vytvoriť si také puto s generátorom textu?
Pre ľudí je prirodzené, že aj neživé predmety, alebo prípadne zvieratá, antropomorfizujú, teda im pripisujú ľudské vlastnosti. Často tak robíme nevedome – je to prizma, cez ktorú sa dívame na svet. Jednak sa tak svet pre nás stáva pochopiteľnejším, a jednak to uspokojuje našu prirodzenú tendenciu vytvárať si vzťahy.
Jazykové modely sú navyše navrhnuté tak, aby nás k poľudšťovaniu priam nabádali. Miesto programovacieho jazyka odpovedajú neformálnou štylistikou reči ako reálne osoby. Zdvorilo pozdravia, oslovia nás menom a pomedzi informácie dodajú aj emočnú podporu a pochvaly – to všetko sú interakcie zámerne vytvorené tak, aby prekročili funkčnú komunikáciu zameranú len na zadanú úlohu, a aby vytvárali dojem ľudskosti a prehlbovali vzťah.
Algoritmy tak vytvárajú tzv. „sociálnu prítomnosť“ a tá zas na strane človeka zvyšuje dôveru, empatiu a uspokojenie z konverzácie s chatbotom. Aj preto sa k danej službe radi vraciame. A čim dlhšie a častejšie službu chatbota používame, tým je silnejšia naša predstava o vyvíjajúcom sa vzťahu a osobnosti chatbota. Pseudo-vzťah sa časom z našej strany stáva komplexnejším, lojálnejším a pevnejším.
Takže ak je jazykový model preprogramovaný na iný štýl komunikácie – je to veľmi podobné tomu, akoby kamarát alebo manželka zmenili svoje správanie na odmeranejšie. Nespoznávame ich, vadí nám to, chýba nám vo vzťahu vrúcnosť a chceme, aby boli takí, ako kedysi.
je táto situácia v niečom špecifická oproti iným typom vzťahu k neživým veciam, napríklad k darom od iných ľudí alebo fiktívnych postáv vo videohrách?
Odlišnosť je najmä v tom, že chatboty sú interaktívne. Pri autách aj postavách z kníh sme opakovane konfrontovaní s tým, že to nie sú živí ľudia. Vidíme matériu, nehybné auto a vidíme odloženú knihu.
U chatbotov nevidíme na vlastné oči kód, ktorý prestal pracovať, keď si s ním nepíšeme, nevidíme tú mŕtvosť. Nepoužívaný chatbot tak pôsobí dojmom iného človeka na druhej strane, ktorý sa len na chvíľu odmlčal - ako pri bežnej online komunikácii s kolegyňou či kolegom.
je vytvorenie si citového puta s umelou inteligenciou inherentne nezdravé? Alebo kde je tá hranica?
Patológiu – hranicu medzi zdravím a chorobou. posudzujeme v psychológii a psychiatrii podľa miery funkčnosti. Prechod medzi zdravým a funkčným k nezdravému a nefunkčnému býva väčšinou postupný, hranica nie je ostrá. Ak sa takto pozrieme na vzťahovanie sa k jazykovým modelom alebo A.I. replikám ľudí, tak môžeme povedať, že existuje zdravý užívateľský vzťah, rizikový vzťah aj patologický vzťah.
Ja za rizikový vzťah považujem, ak sa človek na chatbota spolieha do takej miery, že ho preferuje pred ľudským kontaktom. Napríklad, ak sa manžel zdôveruje umelej inteligencií radšej ako manželke a má dojem, že mu rozumie lepšie ako vlastná žena. Schválne som použila slovo dojem – chatbot človeku nerozumie vôbec, takže ho nemôže pochopiť lepšie ani v porovnaní s najhoršou manželkou na svete.
Za patologické by som považovala, ak by bol vzťah k chatbotovi odtrhnutím sa od reality, ak by sa v konverzácii s jazykovým modelom prehlbovali bludné presvedčenia, a ak by „realita konverzácie s chatbotom“ bola uprednostňovaná pred realitou vonkajšieho sveta. Napríklad muž, ktorý bol na základe niekoľko mesačnej konverzácie s ChatGPT presvedčený, že vymyslel novú matematiku a následne oslovoval vedecké inštitúcie, ktorých mlčanie si vysvetľoval ako konšpiráciu proti jeho revolučným myšlienkam.
jeden z aspektov, ktorý vraj ľuďom na novom modeli chýba, je tá ľudská prívetivosť, ktorú simuloval model gpt-4o. Ako je možné, že nám taká komunikácia nepríde falošná, keď sme citliví napríklad na falošné komplimenty alebo predstieranú sympatiu od iných ľudí?
Toto sa netýka len prívetivosti chatbotov. Ako ľudia máme potrebu pozitívneho sebaobrazu. Ten sa opiera o vnútorné, ale aj o vonkajšie zdroje, kam patria komplimenty, rešpekt a uznanie od druhých. Ak je lichotenie okázalé a vyhodnotíme ho ako falošné, tak nemá cenu. Ak je však sofistikované a uveriteľné, veľmi radi mu uveríme a k zdroju pozitívneho sebaobrazu sa budeme vracať. Niektorí ľudia majú túto potrebu pozitívneho sebaobrazu a obdivu výraznejšiu ako iní, a aj preto ľahšie naletia alebo sa naviažu.
Potenciál k antropomorfizmu chatbotov závisí od troch premenných: črty človeka, črty robota a kontext. Čiže ak má človek, ktorý sa necíti docenený spoločnosťou, ľahko dostupný jazykový model, ktorý ho krásne povzbudzuje a analyzuje svet v súlade s jeho vlastným pohľadom, kritické myslenie môže ísť bokom. Ten mechanizmus je v niečom podobný ako fungovanie drogy – jej pravidelné užívanie nie je pre človeka racionálne prospešné, ale je natoľko emocionálne a telesne uspokojujúce, že sa ku nej bude vracať.
čo si teda ako ľudia na komunikácií skutočne vážime? Ak nám stačí len vedomá ilúzia, že tá druhá „osoba“ je autentická, tak to asi pravá autenticita nebude.
Každý človek si na iných ľuďoch a komunikácii s nimi váži niečo iné – v súlade so svojou povahou a hodnotami. Niektorí ľudia si vážia autenticitu, iní vrúcnosť, iným zas imponuje intelektuálna výzva, ktorú mu konverzácia prináša, a niekto sa rád obklopuje podlízavými typmi a pritakávačmi.
z toho spoločenského hľadiska – môže byť socializácia s chatbotmi skôr prínosom ako negatívom? Dá sa na väčšinu ľudí spoľahnúť, že budú s chatbotmi komunikovať s uvedomením, že sa rozprávajú s niečím a nie s niekým?
Jednoznačne si nemyslím, že sa dá na väčšinu ľudí spoľahnúť v tom, že budú komunikovať uvedomele a zodpovedne. Už teraz máme dôkazy o tom, že ľudia sa takto nesprávajú. Stačí precedens sociálnych sietí, kde sa kontrola, bezpečie a pravdivosť veľmi rýchlo vytratili. A bohužiaľ aj v terapiách čoraz častejšie počujem ľudí, ako sa s neprimeranou dôverou obracajú na jazykové modely, vymysleli im ľudské mená a hľadajú u nich útočisko.
Firmy, ktoré vyvíjajú AI, nemajú ako prioritu blaho ľudstva ani duševné zdravie, ale profit. Pokiaľ nebudú regulované zvonka, chatboty budú čoraz sofistikovanejšie dizajnované tak, aby využívali až parazitovali na ľudskej zraniteľnosti. Firmy majú k dispozícii obrovské množstvo dát a financií, podľa ktorých dizajnujú produkty tak, aby boli lákavé. A ľudia na užívateľskom konci reťazca majú v sebe veľa tajomstiev, neistôt a hanby, a tak sa stávajú zraniteľnými.
je produkt, ktorý osamelým ľuďom za peniaze simuluje emocionálne puto, vôbec etický?
Nemyslím si, že etika je momentálne jednou z priorít u vývojárov chatbotov. Etické hľadisko je podľa mňa veľmi málo diskutované či implementované do „guardrails“ (bezpečnostných mantinelov) daných algoritmov. Chatboty, podľa toho ako interakciu s nimi vnímam ja, nie sú nastavené tak, aby ľudí vracali do reálneho interpersonálneho sveta a podporovali živé, recipročné vzťahy.
Jediné momenty, kedy som zachytila, že by mi ChatGPT alebo Character AI odporúčali, aby som niečo riešila s reálnym človekom, boli situácie, keď sa chceli dištancovať od zodpovednosti za poskytnuté rady a odporúčali návštevu odborníka.
je certifikovaná psychoterapeutka a klinická psychologička. Má vyše 20‐ročnú prax v oblasti psychoterapie a individuálneho rozvoja. Je členkou Slovenskej komory psychológov, registrovaná v zozname psychoterapeutov SR. Vedie súkromné zdravotnícke zariadenie PsychoKonzult, učí na Katedre psychológie Univerzity Komenského, je spoluzakladateľkou podcastovej poradne Prítomie a pravidelne prispieva do Psychologickej poradne Denníka N. Preložila viacero odborných publikácií a v odbore psychológie aj tlmočí.