v rozsiahlom rozhovore pre reláciu Insider vydavateľstva The Economist Harari varuje, že najväčší dopad AI môže spočívať v tom, ako pretvorí dôveru – „najdôležitejší statok na svete“. Veľká časť modernej doby stojí na systémoch, ktoré umožňujú dôveru na úrovniach, aké by boli v predhistorickom svete nepredstaviteľné. Peniaze sú „veľmi kreatívnym a nápaditým spôsobom, ako vybudovať dôveru medzi cudzími ľuďmi“: ľudia bez váhania odovzdajú hodnotný tovar len za sľub, že niekto iný urobí to isté. „Bankári, ak sú to dobrí bankári, ktorí si robia svoju prácu, dôveru budujú.“

Odovzdanie kontroly nad finančným systémom výkonným AI systémom sa podľa Harariho zdá takmer nevyhnutné. Tieto systémy budú čoskoro schopné pochopiť celok globálnej ekonomiky v oveľa väčšom detaile, než by kedy dokázal človek. Tlak na to, aby ľudia viac dôverovali AI, tak podľa Harariho v najbližších rokoch porastie. Poukazuje na vzostup kryptomien – „AI peňazí“, ako ich nazýva. Mnohí ľudia veria bitcoinovému algoritmu viac než spomínaným dobrým bankárom. A ako dodáva, keď ľudia strácajú dôveru v médiá, s radosťou konzumujú obsah, ktorý im na digitálnych platformách typu TikTok či Instagram servírujú algoritmy.

Paradoxom je, že rastúca dôvera jednotlivcov v ich osobné interakcie s AI môže napokon viesť k nedôvere v celý techno-finančný systém, ku ktorému tieto interakcie smerujú. Ľudia totiž nebudú mať ako odvodiť, ako a prečo AI robí svoje rozhodnutia. „Ľudský finančný systém ovláda životy kráv a kurčiat, no kravy a kurčatá netušia, že vôbec nejaký finančný systém existuje,“ hovorí Harari. „O desať rokov budeme pravdepodobne v takejto pozícii aj my.“

Aj keď odhliadneme od existenciálnych rizík AI, ktoré Harari považuje za reálne, svet, v ktorom by ľudia dôverovali AI do takej miery, by bol nebezpečný. Predstavme si napríklad finančný krach v techno-finančnom systéme. Ak by jeho príčiny prekračovali schopnosť ľudského chápania, žiadna politická reakcia nebude možná – aspoň nie zo strany ľudských rozhodovateľov.