společnost Anthropic, jeden z nejvýznamnějších hráčů na západním trhu s umělou inteligencí, v zářijové zprávě Odhalování a potírání zneužívání umělé inteligence vysvětluje, jak její modely Claude zneužívají mimo jiné ruští aktéři. Report vychází z operací, které tým společnosti pro vyhodnocování hrozeb odhalil a narušil během předchozích osmi měsíců.
Dokument pokrývá případy od prosince 2025 do srpna letošního roku v sedmi oblastech: kybernetických a vlivových operacích, sledování lidí, podvodech, biologickém zneužití, vývoji konvenčních zbraní a takzvané destilaci modelů. Útočníci využívali Claude Haiku, Sonnet a Opus. Modely Claude Fable a třídy Mythos se až na jeden případ nelegální destilace podle společnosti mezi popsanými případy neobjevily.
„Případy, které zde zveřejňujeme, nejsou typickým zneužitím, ale příklady nejvýznamnějších a nejnovějších hrozeb, které jsme dosud identifikovali,“ upozorňuje Anthropic. Firma zveřejnění vysvětluje odpovědností informovat o zneužívání vlastních služeb a varuje, že s rostoucími schopnostmi modelů budou bez účinnější ochrany růst také související rizika. Mezi aktéry ve zprávě figurují skupiny podezřelé z napojení na státy, finančně motivovaní kyberzločinci, dodavatelé komerčního spywaru, státní propagandistické instituce i politicky motivovaní jednotlivci.
Pro Rusko je nejvýznamnější případ, který Anthropic označuje jako GTG-20006. Podle společnosti jeho charakteristika odpovídá veřejným zprávám spojujícím aktéra s hackerskou skupinou Midnight Blizzard. Jeden z operátorů vystupoval pod přezdívkou JackPoterz, komunikoval rusky a jeho postupy i výběr cílů podle Anthropicu odpovídaly špionáži napojené na ruský stát.
Terčem byly cíle spojené s vojenským zpravodajstvím v ukrajinské a dalších evropských vládách, diplomatické a obranné organizace i lidé spojení se zahraniční politikou Spojených států. Claude přitom nefungoval pouze jako chatbot, kterému útočníci pokládali jednotlivé technické otázky. Skupina si vybudovala vlastní pracovní postupy založené na umělé inteligenci, které automatizovaly vývoj nástrojů, pořizování infrastruktury, phishing, udržování přístupu do napadených systémů i následné odcizování dat.
Jedním z nejnápadnějších prvků byla schopnost systému přizpůsobovat škodlivý software obraně napadené organizace. AI agenti sledovali, zda bezpečnostní nástroje použitý malware odhalily. Pokud zjistili, že ano, začali jej automaticky upravovat a znovu sestavovat. Tento proces opakovali, dokud nová verze detekci neunikla. Teprve poté byl malware připraven k ostrému nasazení.
Anthropic identifikoval více než 20 organizací, které se objevily v plánování, průzkumu nebo samotných útocích. Patřila mezi ně ministerstva, obranné a zpravodajské instituce, ambasády, diplomatické mise, think-tanky a podniky obranného průmyslu. Většina cílů se nacházela na Ukrajině a v Evropě. Útočníci například prověřovali e-mailové služby a systémy vzdáleného přístupu více než dvou desítek ukrajinských vládních organizací.
Zvláštní zájem měli o ukrajinský dronový průmysl. Z e-mailových schránek nejméně dvou výrobců komponentů hromadně stáhli jejich obsah, zaměřili se na výrobce vojenských bezpilotních prostředků a ukradli také kompletní proprietární vývojovou sadu systému počítačového vidění pro dron. Během několika dalších dnů z ní rekonstruovali architekturu produktu, seznam hardwarových komponentů, jeho závislost na dodavatelích i informace o dosud neoznámené technologii.
K vybraným lidem se ale dokázali dostávat i oklikou. Napadli nejméně tři společnosti provozující hotelové Wi-Fi sítě. Po získání administrátorských přístupů změnili DNS záznamy a směrovali provoz hostů přes infrastrukturu, kterou sami ovládali. Získávali tak provoz, identifikátory zařízení a IP adresy a kombinovali je s údaji odcizenými z hotelových systémů. Zajímal je především personál spojený s Ukrajinou, včetně vládních představitelů a pracovníků výrobců dronů.
Následoval například útok označovaný jako ClickFix. Ukrajinský server Texty.org.ua jej popisuje jako metodu, při níž se uživateli zobrazí falešná webová výzva a útočník jej přiměje k provedení příkazu, který vede k instalaci škodlivého programu. Nejde přitom o novou techniku.
Ještě nenápadnější byl způsob, kterým skupina získávala soukromou komunikaci na WhatsAppu. Útočníci dokázali k napadenému účtu připojit vlastní zařízení a pomocí automatizační knihovny WPPConnect potlačit potvrzení o přečtení. Následně mohli hromadně stahovat rusky a ukrajinsky psané konverzace, aniž by majitel účtu viděl, že někdo zprávy otevírá. Anthropic zaznamenal nejméně dva bývalé vysoce postavené ukrajinské představitele, na které byla tato metoda použita.
Umělá inteligence byla zapojena prakticky do celého řetězce operace. Pomáhala vytvářet seznamy cílů, připravovat a provozovat phishingovou infrastrukturu, spouštět příkazy proti napadeným systémům, získávat přihlašovací údaje, pohybovat se uvnitř sítí a nakonec organizovat stovky gigabajtů odcizených dat. Claude rovněž pomáhal udržovat přístup k napadeným účtům a po odhalení jednotlivých škodlivých komponent je upravovat a znovu nasazovat.
Anthropic v tom vidí širší změnu fungování kybernetické špionáže. Většinu popsaných útoků už podle firmy AI nejen podporovala, ale přímo vykonávala nebo koordinovala prostřednictvím víceagentních systémů. Lidé nadále vybírali cíle a kontrolovali získané informace, jednotlivé fáze průzkumu, napadení a odcizování dat však mohl provádět automatizovaný systém.
Ruská špionáž přitom představuje jen jednu část zprávy. Anthropic například odhalil jinou operaci ve Středoafrické republice, kde rusky mluvící uživatel využíval Claude ke každodenní výrobě obsahu pro rozhlasovou stanici Radio Lengo Songo v Bangui. Práci koordinoval s ruskými státními médii RT, Sputnik Afrique, agenturou TASS a Ruským domem. Model dostával pokyny zapracovávat do zpráv proruské a protifrancouzské teze a současně odstraňovat prvky, podle kterých by text mohl působit jako výstup umělé inteligence.
Anthropic tuto aktivitu označil za skrytou vlivovou operaci řízenou ruským státem. Jejího místního koordinátora spojil se strukturou Politology, tedy africkou vlivovou větví Wagnerovy skupiny a později Africa Corps, která se podle hodnocení společnosti na konci roku 2023 dostala pod kontrolu ruské civilní rozvědky SVR. Claude přitom nebyl používán jen k výrobě propagandistických textů. Pomáhal vytvářet pracovní smlouvy vyžadující loajalitu vůči středoafrickému prezidentovi a „Rusku a jeho kontingentu“, hodnotit zaměstnance, sledovat opozici nebo připravovat padělané dokumenty místního četnictva a ministerstva obrany.
Nejdramatičtější ruský případ se však týká vývoje zbraní. Anthropic odhalil skupinu působící z Ruska, která chtěla pomocí Claude Code vybudovat kompletní autonomní roj FPV kamikaze dronů. Projekt označovala názvy DronDoc nebo Serafim. Claude psal a testoval kód a ukládal ho přímo do projektových souborů vývojářů.
Součástí systému byla společná paměť roje, koordinace jednotlivých strojů, palubní jazykový model řídící útok, pozorování a návrat na základnu, navedení podle obrazu kamery nebo systém pro vyhledávání nepřátelských operátorů dronů. Platforma byla navržena k autonomnímu smrtícímu nasazení. Palubní model dokázal vybírat cíle, mezi nimiž existovala i kategorie „člověk“, a vydat příkaz k detonaci bez zásahu člověka. Vývojáři přitom firmware nahrávali do skutečných vývojových desek a při testech používali fyzický hardware.
Systém počítačového vidění trénovali na bojových záběrech z Ukrajiny. Objekty rozdělili na „nepřátelské“ a „přátelské“ a ruské systémy zařadili mezi ty, na které neměl dron útočit. Jako demonstrační bod zásahu opakovaně používali konkrétní souřadnici v Doněcké oblasti a jako předpokládaný operační prostor ukrajinská města a koridory u fronty.
V tomto případě však Anthropic upozorňuje na důležitý rozdíl oproti kybernetické špionáži a africké propagandě. Vývojáře nepovažuje za ruský státní subjekt, ale za malý specializovaný tým freelancerů kombinující civilní a vojenskou práci. Firma identifikovala devět účtů spojených se skupinou a osm z nich podle ní sloužilo pouze k běžným civilním zakázkám.
Vyšetřování ale zároveň odhalilo vazby na regionální univerzitu s federálním výzkumným centrem spojeným s Ruskou akademií věd. Sami vývojáři tvrdili, že získali financování od ruského Fondu perspektivního výzkumu, Národní technologické iniciativy a ministerstva obrany. Anthropic tato tvrzení nedokázal ověřit.
Článok uverejňujeme v rámci spolupráce s denníkom Forum24.