AI firma Anthropic rozbehla Projekt Panama, ktorý chcela udržať v tajnosti. Vyšiel najavo vďaka súdnemu sporu, inak by pravdepodobne zostal ukrytý, ako to Anthropic chcel. Projekt Panama totiž ničí knihy. V týchto týždňoch na to upozornilo niekoľko svetových médií ako The Guardian, ja som sa o tom dočítala prvý raz v texte môjho obľúbeného komentátora Jonathana V. Lasta na stránke The Bulwark. Ďalšie pátranie mi vyrazilo dych.

O čo v Projekte Panama šlo? Firma Anthropic sa pokúšala učiť svoj jazykový model Claude na literatúre, a preto deštruovala kvantá kníh – fyzicky ich rozrezala, roztrhala, rozporciovala ich na jednotlivé stránky a tie skenovala. Nazývala to „deštruktívne skenovanie“. Knihy tým zanikli. Medzi nimi aj vzácne diela, ktorých sa na svete vyskytuje už len veľmi málo výtlačkov. Ale o to firme šlo. „Projekt Panama je našou snahou deštruktívne oskenovať všetky knihy na svete,“ hovorila firemná komunikácia Anthropicu, ktorá sa stala súčasťou súdnych spisov, a preto vyšla na svetlo sveta.

Barbarské? Iste. Ale chladne logické.

Za týmto barbarstvom bolo totiž nasledovné uvažovanie: Anthropic vie, že ak sa jazykové modely učia na textoch z internetu, tie texty sú už poznačené vplyvom jazykových modelov. Ak je teda tréningový materiál takto kontaminovaný, učenie je nekvalitné. Ba čo viac, dochádza k zacykleniu – keď AI vytvára svoje produkty na základe iných produktov AI, stráca sa kvalita tak rapídne, až je výsledkom nepoužiteľný odpad. (Niečo podobné sa deje pri obrazovom obsahu, keď AI tvorí nové vizuály na základe vizuálov AI.)