aké právne riziká pri používaní AI vo firmách považujete za najvýznamnejšie a ktoré podľa vašej praxe firmy najviac podceňujú?
Najvýznamnejšie právne riziká pri využívaní umelej inteligencie často nespočívajú v samotnej technológii, ale predovšetkým v jej nekontrolovanom používaní a absencii účinných interných pravidiel a kontrolných mechanizmov. Mnohé spoločnosti nemajú dostatočný prehľad o tom, aké AI nástroje ich zamestnanci využívajú (tzv. Shadow AI), aké informácie do nich vkladajú a na aké účely ich používajú. Vzniká tak riziko neoprávneného sprístupnenia osobných údajov, dôverných informácií či kybernetických incidentov. Osobitnú pozornosť si zasluhuje využívanie AI v personálnych procesoch, najmä pri nábore a hodnotení zamestnancov, kde môže dochádzať k diskriminácii či netransparentnému rozhodovaniu. Spoločnostiam preto odporúčame predovšetkým zmapovať používané AI nástroje, vyhodnotiť riziká ich využívania a prijať jasné interné pravidlá (AI Policy). Súčasťou tohto procesu by malo byť aj primerané školenie zamestnancov a určenie zodpovednosti za používanie a kontrolu výstupov AI. Zodpovedné využívanie AI si totiž vyžaduje dodržiavanie nielen AI Actu, ale aj predpisov v oblasti ochrany osobných údajov, kybernetickej bezpečnosti a pracovného práva.
aké riziká prináša príprava zmlúv a iných právnych dokumentov pomocou AI a kedy je takýto postup nevhodný?
Umelá inteligencia môže výrazne zefektívniť prípravu právnych dokumentov, najmä pri tvorbe prvotných návrhov, porovnávaní zmlúv či analýze rozsiahlych podkladov. Významným rizikom je však nespoľahlivosť generovaných výstupov, ktoré môžu obsahovať nesprávne právne závery, odkazy na neaktuálne právne predpisy či dokonca neexistujúcu judikatúru, hoci výstup AI môže na prvý pohľad pôsobiť odborne a presvedčivo. Osobitnú pozornosť si vyžaduje aj ochrana dôverných informácií a dodržiavanie advokátskej mlčanlivosti. Odporúčame preto využívať AI nástroje s preverenými zmluvnými a bezpečnostnými podmienkami a dôsledne kontrolovať ich výstupy. Používanie AI je nevhodné najmä vtedy, ak nemožno zabezpečiť dôvernosť spracúvaných informácií alebo kvalifikované overenie výsledného dokumentu. Zvýšená obozretnosť je potrebná najmä pri zložitých obchodných transakciách, právnych stanoviskách či procesných podaniach, pri ktorých môže mať nesprávny výstup závažné dôsledky. AI by preto mala slúžiť ako podporný nástroj pri príprave dokumentu, rozhodne nie ako náhrada právneho posúdenia.
akú zodpovednosť nesie firma, ak zamestnanci vložia do verejných AI nástrojov dôverné informácie, osobné údaje alebo obchodné tajomstvo?
Za neoprávnené sprístupnenie informácií prostredníctvom AI nástrojov môže niesť zodpovednosť aj samotná spoločnosť, hoci k nemu došlo konaním jej zamestnanca. Rozhodujúce sú najmä okolnosti konkrétneho prípadu a to, či spoločnosť prijala primerané opatrenia na ochranu informácií. Takéto konanie môže predstavovať porušenie povinností podľa GDPR, zasiahnuť do ochrany obchodného tajomstva alebo viesť k porušeniu zmluvných záväzkov mlčanlivosti. Zodpovednosť spoločnosti voči tretím osobám pritom nevylučuje prípadnú pracovnoprávnu zodpovednosť zamestnanca, ak sú splnené zákonné podmienky. Dôležitým preventívnym opatrením je vedenie AI registra, ktorý poskytuje prehľad o používaných systémoch, ich účele a spracúvaných údajoch. Spoločnosť by zároveň mala jasne určiť, aké informácie možno do jednotlivých nástrojov zadávať a zabezpečiť dodržiavanie týchto pravidiel a podľa potreby ich aj aktualizovať. Podstatná je aj schopnosť preukázať účinnosť prijatých opatrení, ich formálne prijatie nepostačuje.
ako sa rozdeľuje zodpovednosť za škodu spôsobenú chybným výstupom AI, napríklad nepravdivou informáciou chatbota, medzi dodávateľa, firmu a zamestnanca?
Zodpovednosť za škodu spôsobenú nesprávnym výstupom AI závisí od okolností jej vzniku a povinností jednotlivých subjektov. Ak napríklad firemný chatbot poskytne zákazníkovi nepravdivú informáciu, zodpovednosť môže niesť spoločnosť, ktorá ho využíva pri poskytovaní svojich služieb. Samotná skutočnosť, že informáciu vygenerovala AI, spoločnosť tejto zodpovednosti nezbavuje. Dodávateľ ani vývojár AI systému však nezodpovedá automaticky za každý chybný výstup. Jeho zodpovednosť môže vzniknúť najmä v súvislosti s vadou systému alebo porušením zmluvných či zákonných povinností. AI Act pritom rozlišuje povinnosti poskytovateľa a nasadzujúceho subjektu, samotná náhrada škody sa však posudzuje podľa príslušných zákonných pravidiel zodpovednosti. Zamestnanec môže za splnenia zákonných podmienok zodpovedať za škodu spôsobenú zavineným porušením pracovných povinností. Spoločnostiam preto odporúčame zmluvne upraviť rozdelenie povinností s dodávateľmi, priebežne preverovať spoľahlivosť AI systémov a zabezpečiť primeranú ľudskú kontrolu ich výstupov.
s akými otázkami sa na vás klienti v súvislosti s AI obracajú najčastejšie?
Z našej skúsenosti vyplýva, že klientov dnes zaujíma predovšetkým, ako bezpečne a v súlade s právnymi predpismi začleniť AI do svojich procesov. Najčastejšie riešime podmienky používania generatívnej AI, ochranu dôverných informácií, zodpovednosť za jej výstupy či využívanie AI v personálnych procesoch a zákazníckej podpore. Významnú časť nášho poradenstva tvoria aj otázky postavenia jednotlivých subjektov podľa AI Actu, rozdelenia povinností medzi dodávateľmi a zákazníkmi, označovania AI generovaného obsahu či autorských práv k výstupom. Rastie tiež záujem o používanie AI nástrojov zahraničných poskytovateľov, ako aj o zavádzanie interných politík (AI Policy), systémov riadenia AI (AI Governance) a rozvoj AI gramotnosti zamestnancov. Realizujeme školenia pre klientov a ich zamestnancov zamerané na právne aspekty využívania AI, praktické riziká a zásady jej bezpečného a zodpovedného používania. Naším cieľom je pomáhať klientom využívať potenciál umelej inteligencie pri zachovaní právnej istoty a primeranej kontroly súvisiacich rizík.
aké tri opatrenia odporúčate firmám prijať ešte tento rok, aby znížili právne riziká pri používaní AI?
Spoločnostiam odporúčame do konca roka 2026 zamerať sa na tri kľúčové opatrenia. V prvom rade by mali zmapovať používané AI systémy, určiť svoje postavenie podľa AI Actu a posúdiť účel ich využívania a rizikovú kategóriu. Práve od týchto skutočností sa odvíjajú konkrétne regulačné povinnosti. Druhým krokom je zavedenie účinného systému riadenia AI (AI Governance), zahŕňajúceho prijatie AI Policy, vedenie AI registra, školenia zamestnancov a pravidlá ľudského dohľadu. Napokon odporúčame preveriť zmluvné vzťahy s dodávateľmi AI riešení, najmä rozdelenie povinností, ochranu údajov, bezpečnostné záruky a zodpovednosť za prípadné škody. Kľúčové je, aby prijaté opatrenia nezostali iba formálnymi pravidlami, ale boli skutočne uplatňované v každodennej praxi.
lucia Menke vyštudovala Právnickú fakultu Univerzity Mateja Bela v Banskej Bystrici a Nottingham Trent University. Advokátkou je od roku 2007, je členkou Slovenskej advokátskej komory a Českej advokátskej komory. V roku 2015 založila advokátsku kanceláriu MENKE LEGAL, ktorá patrí k pravidelne oceňovaným advokátskym kanceláriám na Slovensku. Jej najvýznamnejšie špecializácie sú IT právo, právo duševného vlastníctva, verejné obstarávanie, daňové právo a compliance.