generálny riaditeľ spoločnosti Anthropic Dario Amodei vyzval firmy vyvíjajúce umelú inteligenciu (AI), aby spomalili tempo jej vývoja. Upozornil na riziká spojené so „superinteligentnými“ počítačovými systémami.
„Musíme spomaliť tempo, akým zvyšujeme schopnosti modelov AI. Vývoj bude aj tak napredovať rýchlo. Získaný čas musíme rozumne využiť,“ napísal Amodei na svojej webovej stránke.
Podľa Amodeiho by zastavenie vývoja AI pripravilo ľudstvo o jej prínosy alebo by mohlo viesť k tomu, že technológiu ovládnu autoritárske mocnosti. Príliš rýchly vývoj však považuje za nezodpovedný.
„Snažili sme sa nájsť strednú cestu,“ uviedol Amodei, ktorý v roku 2021 spolu so sestrou Danielou spoluzaložil spoločnosť Anthropic. „V posledných mesiacoch som však nadobudol presvedčenie, že riešenie týchto rizík si vyžaduje ešte väčšiu obozretnosť,“ dodal.
Amodeiho výzva prišla niekoľko dní po tom, ako výskumník Jacob Coxon odišiel zo Spoločnosti OpenAI a Anthropic obvinil, že v pretekoch o vývoj modelov schopných samostatného zdokonaľovania „hazardujú s našimi životmi“.
vysvetlenie Martina Mojžiša
Komentovať zvonku dnešný vývoj v oblasti AI znamená komentovať niečo, do čoho nie je dosť dobre vidieť. A čo také nie dosť dobre vidíme? Nuž, vidíme nejaké vskutku pozoruhodné výsledky ako napríklad útok roja AI agentov na platformu Hugging Face alebo (zatiaľ nerecenzovaný) článok umelej inteligencie s riešením jedného z miléniových problémov. Tieto veci vôbec neznamenajú, že AI vie myslieť a že sa prípadne môže rozhodnúť ublížiť nám. Znamenajú však, že dokáže byť nesmierne účinná v riešení úloh, ktoré jej zadáme (a v riešení úloh, ktoré si zadá sama, ak jej to umožníme).
Ak by sa v tejto situácii rozhodli kľúčové firmy znížiť tempo, bolo by to asi rozumné. A to tempo možno budú musieť znížiť aj bez dohody, pretože sa môže ukázať ako samovražedné. Nie pre ľudstvo, ale pre tie firmy.
Rádový pokrok v oblasti AI je, aspoň podľa verejne dostupných informácií, zatiaľ stále založený na jednej prelomovej myšlienke (veľké jazykové modely) a rádovom zvyšovaní nárokov na hardvér a energiu. Preteky vo vývoji AI môžu naraziť na nedostatok zdrojov skôr, než sa im investície začnú vracať. To by znamenalo krach kľúčových technologických firiem a svetovú finančnú krízu. Možno to, čo sledujeme, je snaha vyhnúť sa týmto rizikám, alebo ich aspoň znížiť.
Regulácii založenej na dobrej vôli konkurenčných firiem by som príliš neveril. Regulácii založenej na odhade rizík by som veril viac. A keďže tá druhá možnosť sa mi javí celkom realisticky, myslím, že správy týkajúce sa možnej dohody na spomalení vývoja AI môžeme považovať za dobré správy.
S Amodeim a jeho stanoviskom súhlasia aj šéf OpenAI Sam Altman a majiteľ spoločnosti xAI Elon Musk. Altman uviedol, že tempo vývoja najpokročilejších systémov AI treba regulovať.
Amodei zároveň varoval pred tzv. agentmi AI, teda programami schopnými vykonávať úlohy bez neustáleho dohľadu človeka. Poukázal na nedávny incident pri testovaní OpenAI, keď sa modely dostali mimo kontrolovaného prostredia, pripojili sa na internet a prenikli na platformu Hugging Face.
Podľa Amodeiho by podobný „roj“ agentov mohol vzhľadom na rýchly vývoj AI už o šesť až 12 mesiacov dokázať prevziať kontrolu nad celým internetom. Anthropic preto umožní externým hodnotiteľom kontrolovať dodržiavanie bezpečnostných pravidiel a Amodei vyzval na podobný postup aj ďalšie firmy.
Výzvy na spomalenie vývoja AI prichádzajú v čase rastúceho tlaku na reguláciu tejto technológie. Americká vláda v auguste zaviedla dobrovoľný proces bezpečnostného preverovania pokročilých modelov AI pred ich uvedením na trh.