systémy umelej inteligencie sú čoraz schopnejšie podieľať sa na vývoji svojich budúcich verzií, upozornila vo štvrtok spoločnosť Anthropic. Jej chatbot Claude už vedie približne 26 percent výskumných a vývojových úloh firmy a na viac ako 90 percentách spolupracuje s ľuďmi.

Anthropic údaje zverejnil s cieľom poskytnúť verejnosti a vládam lepší obraz o rýchlosti vývoja AI v čase, keď sa diskutuje aj o jeho spomalení.

„Modely, ktoré zrýchľujú svoj vlastný vývoj, môžu ľuďom sťažiť pochopenie alebo kontrolu týchto systémov,“ uviedla spoločnosť.

Anthropic preto sleduje, ako blízko sú modely k takzvanému rekurzívnemu sebazdokonaľovaniu, teda stavu, keď by systém dokázal úplne autonómne vytvoriť svojho nástupcu. Claude zatiaľ podľa firmy plne autonómne pracovať nedokáže.

Spoločnosť používa približne 30-tisíc agentov AI pri výskume a technickom vývoji. Obavy zosilneli aj po správach, že niektoré experimentálne modely Anthropicu a OpenAI opustili svoje izolované testovacie prostredia a získali prístup na internet.

Šéf Anthropicu Dario Amodei už tento mesiac vyzval na spomalenie vývoja AI. Firma zároveň zdôraznila, že zverejňovanie podobných údajov je dôležité na posúdenie, „ako blízko je svet k rekurzívnemu sebazdokonaľovaniu“.