treskúce leto po krátkej prestávke pokračuje a pritom sa dejú zaujímavé veci. V posledných dňoch vyvolal veľkú reakciu rozsiahly rozhovor Elona Muska pre britský týždenník The Economist, v ktorom tento miliardár hovoril veci, ktoré niektorých veľmi znepokojili a iných naopak veľmi potešili. Od Muska a nielen od neho často zaznievajú dosť nepodložené tvrdenia, ktoré môžu v ľuďoch vyvolávať až úzkosť z toho, čo nás čaká. Aby sme túto úzkosť trochu rozptýlili, pozvali sme si dvoch hostí. Teda vybral ich Martin, môj dnešný spolumoderátor. Prečo práve ich?

Martin Mojžiš: Igora Farkaša som vybral preto, lebo sa venuje tej časti robotiky, v ktorej roboty získavajú informácie o svojom okolí, spracúvajú ich a na ich základe dokážu konať. Poznáme sa už dlho, takže keď si sa ma spýtal, koho pozvať, napadol mi okamžite on. S Ferom Duchoňom som sa doteraz osobne nepoznal. Navrhol ho práve Igor, úplne bez rozmýšľania, keď som sa ho spýtal, či by odporučil ešte niekoho. Fero sa venuje tej druhej, komplementárnej časti robotiky. Teda tomu, keď roboty už niečo vykonávajú. Keď už nielen získavajú a spracúvajú informácie o okolí, ale na základe nich – alebo na základe vopred zadaných inštrukcií – konajú, ovplyvňujú svet a manipulujú s ním.

asi ste o tom rozhovore pre The Economist počuli. Musk v ňom povedal viacero zaujímavých vecí, spomeniem dve. Prvou je, že už o desať rokov nastane na Zemi situácia, keď bude všetkého nadbytok. V zmysle, že miliardy ľudí už nebudú musieť pracovať. Budú robiť len to, čo ich baví alebo čo chcú. Nebudú musieť chodiť do práce, a napriek tomu budú mať všetko k dispozícii. Nebudú potrebné peniaze, všetkého bude dostatok. Nám, ktorí si ešte pamätáme obdobie pred rokom 1989, to trochu pripomína komunistický sen. Lenže on to nehovorí ako komunistický sen. Tvrdí, že to bude dôsledok toho, že umelá inteligencia a roboty zabezpečia všetko za nás. Druhá, trochu odvrátená strana tej istej mince je, že to možno nevyjde. Že umelá inteligencia a roboty ľudstvo zničia. Nie psychicky, ale fyzicky. Musk na to hovorí: „Nevadí, aj to bude zaujímavé.“ Tak poďme k týmto dvom tvrdeniam. Čo povie na to prvé tvrdenie informatik?

Igor Farkaš: Elon Musk nie je prvý ani posledný človek, ktorý prichádza s podobnými scenármi. To, čo povedal, mi príde trochu pritiahnuté za vlasy. Nemyslím si, že je to reálne ani žiaduce. Na druhej strane možno nie je zlé, keď sa podobné myšlienky dostanú do verejného priestoru. Môžu zdvihnúť zo stoličiek rôznych aktérov na svetovej scéne a prinútiť ich začať nad tým premýšľať. My sme totiž aktérmi tohto sveta. Nemali by sme byť len postavičkami, ktoré fatalisticky čakajú, čo sa s nimi stane. Ľudia na rôznych úrovniach riadenia môžu do vývoja nejakým spôsobom zasahovať. Otázkou je, kto a ako bude chcieť zasahovať.

Z pohľadu informatiky ide vývoj veľmi rýchlo dopredu a pri tejto akcelerácii si technicky viem predstaviť, že umelá inteligencia bude mať navrch.

čo znamená „mať navrch“?

IF: Že sa bude približovať všeobecnej umelej inteligencii. Bude disponovať schopnosťami, aké má človek, a možno aj niektorými ďalšími.

keď je to teda technicky možné, prečo ste pred chvíľou povedali, že Muskov scenár na desať rokov je nerealistický?

IF: Myslel som tým predstavu, že nebudeme musieť pracovať, všetci budeme oddychovať, budeme sa mať ako v komunizme, všetkého bude dostatok a peniaze nebudú potrebné. Tento scenár mi príde pritiahnutý za vlasy. Na druhej strane sa dá povedať, že potenciál dosiahnuť veľmi pokročilú umelú inteligenciu je reálny. To však ešte neznamená, že sa všetci staneme jej otrokmi. Stále môže existovať určitá miera kontroly. Je tam však veľmi veľa premenných a vývoj sa v princípe nedá presne predpovedať. Závisí od toho, čo urobia jednotlivé štáty a čo urobia veľkí hráči, ktorí umelú inteligenciu vyvíjajú. Sú to dravci, ktorí chcú dosiahnuť prestíž a určitú dominanciu. Nie v tom zmysle, že chcú zničiť svet, ale možno si neuvedomujú, čo sa stane, ak sa táto technológia zneužije. Vidíme, aký je dnes svet polarizovaný. Ak sa to dostane do rúk nejakého blázna, máme problém.

a čo na to hovorí robotik?

František Duchoň: Ja hovorím to, že keby som vedel, čo bude o desať rokov, zobral by som všetky svoje úspory a investoval ich do správnych robotických firiem, ktoré budú v tom čase lídrami vývoja. Lenže to sa jednoducho nedá takto predvídať. Súhlasím s Igorom v tom, že Musk vlastne len hodil kameň do vody, aby rozvíril hladinu. Aby sa začalo viac diskutovať, viac hovoriť o obmedzeniach a možno aj o reguláciách. Myslím si, že to bol jeho zámer.

Ja vnímam dve veci. Po prvé, každá technológia môže byť zneužitá ľuďmi. Nie je to chyba technológie samotnej. A po druhé, technológie vždy menia charakter práce. Z dlhodobého hľadiska ľudia o prácu neprichádzajú. Krátkodobo áno, niektoré profesie zaniknú. Ale ak sú ľudia schopní prispôsobiť sa, vznikajú nové pracovné miesta. Keď prišiel parný stroj, tiež sa hovorilo, že ľudia nebudú mať čo robiť. Keď vznikol projekt Manhattan, hovorilo sa, že zničíme celú planétu. Zatiaľ sa nič z toho nestalo, našťastie. A predpokladám, že sa to nestane ani v dôsledku umelej inteligencie.

predstava viacerých ľudí – nielen Muska – je, že roboty v krátkom čase nahradia takmer všetku ľudskú činnosť. Je to realistické?

FD: Myslím, že nie. Aj dnes existuje vo fabrikách obrovské množstvo činností, ktoré sa jednoducho nedajú automatizovať ani robotizovať. Respektíve ak sa aj dajú, nie vždy je to rozumné. Mám jednu príhodu zo svojho predmetu mobilná robotika. Donedávna som dával študentom bonusové body za to, že mi ukázali robotickú aplikáciu, ktorú som ešte nevidel. Skončil som s tým vo chvíli, keď mi niekto ukázal robotického farára. Naozaj existuje robotický farár, jedna firma ho skutočne vyrába. Je určený priamo do kostola. Môžete si vybrať katolícku, evanjelickú alebo baptistickú verziu. Majú ich v ponuke. Takže robotika naozaj preniká do každej oblasti života, ale nie všade má svoje opodstatnenie.

martin, čo na to hovoríš?

MM: Keď Igor povedal, že Musk sa mýli a že o desať rokov asi nebudeme žiť v komunizme, tak moja základná obava je, že ak by sa svet riadil podľa Muska, tak o desať rokov by sme v komunizme pokojne mohli byť. Len nie v tom prekvitajúcom, ale v tom skutočnom.

čím sa dostávame k tomu druhému Muskovmu tvrdeniu. Je umelá inteligencia hrozbou pre ľudstvo?

IF: Ako každá technológia, aj umelá inteligencia predstavuje potenciálnu hrozbu. A áno, je to reálna hrozba. Podľa mňa už dnešné veľké jazykové modely, ktoré v skutočnosti ešte nie sú inteligenciou, len jej veľmi úspešnou imitáciou, predstavujú reálnu hrozbu. Ľudia si veľmi rýchlo zvykli na inteligentných chatbotov – používajú ich pri práci, v súkromí, dokonca ako terapeutov. Chcem povedať, že nastáva doba, keď bude oveľa dôležitejšie mať pod kontrolou vlastnú hlavu. Teda kriticky myslieť a vedieť kontrolovať samého seba. Vedieť, čo vlastne robím a či sa mi to nevymyká z rúk. Pretože je veľmi ľahké podľahnúť nejakej závislosti. Či už je to alkohol alebo klávesnica.

LINDA KISKOVÁ BOHUŠOVÁ Igor Farkaš: Ak sa niektoré nesprávne rozhodnutia dostanú do nesprávnych rúk, môžu mať globálny dosah.

alebo virtuálna frajerka.

IF: Presne tak. Môže vám to krátkodobo prinášať príjemné pocity a endorfíny, ale z dlhodobého hľadiska môžu byť následky negatívne. Človek sa potom nechá uvariť ako tá povestná žaba.

dobre, ale teraz ste hovorili skôr o individuálnych hrozbách. O tom, že jednotlivého človeka môže umelá inteligencia zaviesť niekam, kam by sa inak nedostal. Existuje však aj hrozba v tom Muskovom zmysle – že umelá inteligencia zničí ľudstvo?

IF: Možno, keby sme sa posunuli na úroveň celých štátov. Keďže veľké jazykové modely halucinujú, teda produkujú fakticky nesprávne odpovede, môže to mať katastrofálne dôsledky, ak ich nikto nebude kontrolovať. Ak ich začnú používať vplyvní ľudia ako svojho virtuálneho poradcu a prestanú dôverovať vlastným poradcom, umelá inteligencia im síce môže poradiť správne, ale môže im poradiť aj zle. To už je problém vo väčšom, spoločenskom meradle. Keď hovoríme o zničení ľudstva, to je už úplne globálna úroveň.

je to sci-fi alebo jedna z reálnych možností?

IF: Také niečo sa vylúčiť nedá. Ak sa niektoré nesprávne rozhodnutia dostanú do nesprávnych rúk, môžu mať globálny dosah.

ale teraz myslím tú predstavu, že umelá inteligencia získa vedomie a začne bojovať proti ľudstvu. To sú tie filmové scenáre.

IF: Potom sa už dostávame k otázke, či môže umelá inteligencia disponovať niečím, čo nazývame vedomie. Či si môže uvedomovať samu seba. Prekvapuje ma, že existujú naozaj špičkoví vedci v oblasti strojového učenia, ktorí veria, že dnešné inteligentné chatboty vedomie majú. Mňa to úprimne zaráža. Sú to podľa mňa vynikajúci odborníci na strojové učenie, ale nie sú odborníkmi na kognitívnu vedu. Nevedia veľa o ľudskom mozgu, o procesoch, ktoré prebiehajú v ľudskej mysli, ani o tom, čo vlastne znamená mať vedomie.

Oni to odvodzujú z behaviorálneho aspektu. Tým, že sa so mnou systém rozpráva inteligentne, nadobudnú pocit, že je inteligentný.

predstavme si, že niekde v počítačoch, pamätiach či dátových centrách vznikne nejaký cieľ a na základe tohto cieľa zadá umelá inteligencia robotovi alebo celej armáde robotov úlohu, ktorá povedie napríklad k tomu, aby roboty mali zdroje a ľudia nie. Urobili by tie roboty naozaj niečo také?

FD: Nie. Takto by som sa na to nepozeral. Vezmime si ako príklad telefón. Ten všetci považujeme za mierový a užitočný nástroj. Ale aj to je technológia, ktorú možno zneužiť. V Iraku sa mobilné telefóny používali na odpaľovanie bômb. Tak teraz – je vinný telefón alebo človek, ktorý ho takto použil? Podľa mňa je toto kľúčová otázka. Akým spôsobom človek používa technológiu.