Umělá inteligence na lavici obžalovaných aneb Jak to bude s její právní regulací?

Umělá inteligence (AI) má kromě svých nesporných výhod i neopomenutelná rizika. Například právní. V České republice i v Evropské unii přitom zatím chybí komplexní právní úprava používání této technologie. Jak by měla vypadat? O tom už píše advokát Jiří Matzner.

Vzhledem k tomu, že umělá inteligence je stále ještě na samém počátku svého vývoje, je i právní úprava této oblasti poněkud nerozvinutá. S rychle postupujícím technologickým pokrokem, který sebou přináší i rychlý nástup při využívání umělé inteligence, v současné době roste i potřeba vytvoření vhodného právního rámce, který by v této oblasti nastavil smysluplná pravidla. Zejména pak v „rizikových“ oblastech využívání umělé inteligence, jako například ve státní správě, dopravě či ve zdravotnictví.

V současné době v České republice i v Evropské unii komplexní právní úprava umělé inteligence chybí, na což Evropská komise nedávno reagovala vydáním tzv. Bílé knihy o umělé inteligenci, která představuje prvotní vizi budoucí právní regulace této oblasti.

Rozmach umělé inteligence a její potenciální rizika

S příchodem pandemie koronaviru se razantně zvýšila snaha o digitalizaci společnosti, jejíž součástí je i vývoj a uplatnění umělé inteligence v různých odvětvích, ať už jde o průmysl, zdravotnictví, dopravu nebo třeba státní správu. Je nepochybné, že každodenní využívání umělé inteligence přináší řadu výhod, ať už jde o bezkonkurenčně vyšší efektivitu práce, nižší náklady nebo třeba i větší kvalitu či preciznost pracovních výstupů.

Umělá inteligence má však i svá neopomenutelná rizika. Pokud umělá inteligence nepodléhá dozoru, může se na základě nesprávných vstupních informací naučit třeba i diskriminovat nebo získat předsudky k různým typům sociálních skupin, což je samozřejmě značně nežádoucí. Dalším případem možného rizika při využívání umělé inteligence je i bezpečnost, kdy např. v rámci autonomní dopravy může nastat situace, že v důsledku nesprávné identifikace objektu na silnici vozidlo řízené umělou inteligencí způsobí vážnou dopravní nehodu, kterou by člověk za běžných okolností nezpůsobil.

Podobná rizika existují také např. při využívání umělé inteligence ve zdravotnictví, kdy by banální zkrat či chyba způsobená technologickým selháním umělé inteligence mohla znamenat dokonce ztráty na životech.

Právní regulace umělé inteligence a její budoucí vývoj

Vzhledem k tomu, že umělá inteligence ještě zdaleka není na takové úrovni, aby bylo možné ji bez dalšího implementovat do různých oblastí společenského života a plně se na ni spolehnout, bude do budoucna nutné ji stále ještě udržovat pod lidským dozorem a nastavit k jejímu využívání určitá pravidla.

V České republice v tuto chvíli neexistuje žádná komplexní právní regulace tohoto technologického odvětví. Počátkem letošního roku však Evropská komise vydala tzv. bílou knihu o umělé inteligenci, ve které představila svou vizi právního a regulatorního rámce pro oblast umělé inteligence a která pracuje s konceptem tzv. vysoce rizikových odvětví, mezi něž se řadí zejména zdravotnictví, státní správa či doprava.

Bílá kniha tak nastavuje základní vizi právního rámce, který bude vhodným způsobem řešit hlavní rizika spojená s umělou inteligencí – především pak rizika v oblasti základních práv, ochrany osobních údajů, ochrany soukromí, nediskriminace, nebo rizika v oblasti bezpečnosti a účinného fungování umělé inteligence.

Podle bílé knihy by měla regulace umělé inteligence vypadat tak, aby rizika spojená s umělou inteligencí pokud možno snížila na minimum. To vše při kladení důrazu na bezpečnost, ochranu soukromí a transparentnost při využívání umělé inteligence a v neposlední řadě i na lidskou kontrolu a dozor nad jejím užíváním, zejména pak ve vysoce rizikových odvětvích.

V rámci bílé knihy Evropská komise navrhuje dva základní typy regulace umělé inteligence. První z nich zahrnuje stanovení závazných požadavků zahrnujících testy souladu, kontroly a nastavení vhodných sankcí pro vysoce riziková odvětví umělé inteligence. Druhým z nich je tzv. systém dobrovolného označování pro ostatní aplikace umělé inteligence. Za vysoce rizikové aplikace umělé inteligence by pak měla být považována odvětví splňující dvě hlavní kritéria, kterými jsou

(i) použití umělé inteligence v rizikovém odvětví (např. zdravotní péče, doprava, energetika, státní správa apod.) a

(ii) způsob použití umělé inteligence, který sebou nese významná rizika (např. v podobě právních důsledků, smrti nebo škody na zdraví či majetku).

„Stávající technologická situace rozhodně neodpovídá žalostnému stavu právní úpravy.“

Závaznému právnímu rámci by do budoucna měly podléhat také případy využití umělé inteligence, které je třeba považovat za vysoce rizikové bez ohledu na oblast jejich využití a mezi něž můžeme zařadit např. využití umělé inteligence při náboru zaměstnanců, v rámci sledovacích technologií či biometrické identifikace osob na dálku.

Pro zajištění potřebné kapacity k testování a certifikaci produktů a služeb, které budou umělou inteligenci využívat, by podle Evropské komise měla být vytvořena vhodná správní struktura na evropské úrovni, která by nastavila funkční rámec pro spolupráci příslušných vnitrostátních orgánů v dané oblasti a prostřednictvím konzultací umožnila i zapojení zúčastněných stran do optimálního nastavení a vývoje regulatorního rámce pro umělou inteligenci.

Závěr

Z posledních aktivit Evropské komise je vidět, že Evropská unie bere umělou inteligenci vážně a hodlá se nastavením jejího právního rámce v budoucnu systematicky zabývat, což lze jedině uvítat, jelikož stávající technologická situace rozhodně neodpovídá žalostnému stavu právní úpravy v dané oblasti.

Nebylo by rovněž na škodu, kdy by se této problematice začala více věnovat i Česká republika na národní úrovni a pomohla tak co nejvíce urychlit proces nastavení vhodného právního rámce umělé inteligence.

Autor textu je JUDr. Jiří Matzner, Ph.D., LLM., zakladatel advokátní kanceláře MATZNER et. al.