Europoslanec Alexandr Vondra mluví o aktu o umělé inteligenci (AI) a uvádí, že se hlasování o jeho přijetí zdržel. Tvrdí, že ačkoliv rozumí nutnosti regulovat technologie, zastává názor, že akt omezuje příležitosti pro inovace v oblasti umělé inteligence v Evropské unii (EU). Jedním z důvodů je dle něj právě to, že EU přistoupila k regulaci AI dříve než USA.

Opravdu byla Evropa první, kdo přistoupil k regulaci AI? A jaké snahy regulovat umělou inteligenci nebo zavést podobný zákon probíhají v USA?

Akt o umělé inteligenci

Europoslanci schválili akt o umělé inteligenci (.pdf) v březnu 2024, přičemž v platnost vejde nejdříve v roce 2025. Jeho cílem je zavést jednotný právní rámec pro vývoj a používání umělé inteligence v souladu s hodnotami EU. Má také zajistit, aby byly systémy AI bezpečné a respektovaly základní práva platná v EU. Akt se dotýká využití AI v řadě oblastí od vojenství, vzdělávání nebo bankovnictví až po medicínu a cestování.

Hlavní částí aktu je regulační rámec, jenž systémy AI rozděluje do čtyř úrovní podle principu „čím vyšší riziko, tím přísnější pravidla“. Za minimální riziko byly označeny systémy ve videohrách nebo spamové filtry. Chatboty nebo deepfakes spadají do systémů s omezeným rizikem, což znamená, že budou muset obsahovat informaci, že se jedná o výtvor AI.

Přísnějším požadavkům jako zaznamenávání dat nebo vysoká úroveň zabezpečení podlehnou vysoce rizikové systémy AI, nacházející se například v kritické infrastruktuře, vzdělávání nebo řízení zaměstnanců. Úplně zakázané budou praktiky jako rozpoznávání emocí na pracovištích a ve školách, manipulace s chováním nebo hodnocení sociálního kreditu.

Za vůbec první rozsáhlý právní rámec pro regulaci AI označují akt jak samotná EU, tak některá česká i zahraniční média. Prvenství má EU především díky přípravě právního dohledu nad umělou inteligencí. Ten je založený na bezpečnostních požadavcích, které musí společnosti splnit, než daný systém s AI uvede na evropský trh.

Pokyny, pravidla nebo národní strategie k používání umělé inteligence zavádějí státy po celém světě, Evropská unie je ale první, kdo zavedl komplexní soubor předpisů s vymahatelnými pokutami. Regulace AI se v různých zemích liší, ale ve všech je cílem legislativy rovnováha mezi podporou rozvoje a omezením rizik (.pdf, str. 2).

Regulace AI v USA

Alexandr Vondra konkrétně zmiňuje USA jako zemi, která obdobný akt nemá. Spojené státy vydaly řadu směrnic a doporučení k umělé inteligenci, neexistuje však žádný zastřešující zákon jako v EU. Pravidla v současnosti určuje kombinace federálních zákonů (.pdf, str. 26–27), legislativ jednotlivých států a soudních rozhodnutí, ale také samotné odvětví.

Americký Kongres vydal pouze legislativu, jejímž účelem je zachovat vedoucí postavení Spojených států ve výzkumu a vývoji AI (.pdf, str. 93). Schválil také zákon, který kontroluje, jak umělou inteligenci využívá vláda (.pdf, str. 1105). Za zmínku stojí i zákon o Národní iniciativě pro umělou inteligenci z roku 2020, který vytvořil pravidla pro výzkum, vývoj a vyhodnocování AI ve federálních vědeckých agenturách (.pdf, str. 1).

V květnu 2023 administrativa amerického prezidenta Joea Bidena aktualizovala Národní strategický plán výzkumu a vývoje umělé inteligence (.pdf). Jeho nové znění zdůrazňuje potřebu koordinovaného přístupu k mezinárodní spolupráci ve výzkumu AI (.pdf, str. 26).

V říjnu 2023 vydal Joe Biden výkonné nařízení o umělé inteligenci, který zdůrazňuje nutnost předcházet hrozbám, jež AI představuje pro občanské svobody a národní bezpečnost. Také jeho cílem je zajistit domácí výzkum AI a globální konkurenceschopnost USA v této oblasti.

Bidenovo výkonné nařízení, obdobně jako unijní legislativa, požaduje monitorování a transparentnost technologií AI pro spotřebitele. Jedná se ale pouze o výkonné nařízení. Akt o umělé inteligenci je zákonem, na základě kterého mohou orgány EU vymáhat pokuty, jak jsme zmínili výše.

Závěrečné hodnocení

Europoslanec Vondra má pravdu v tom, že Evropská unie vytvořila rozsáhlý zákon, který reguluje umělou inteligenci, jako první. Jako první totiž stanovila bezpečnostní požadavky, které musí jednotlivé společnosti splnit pro uvedení určité technologie AI na evropský trh. V USA sice existují snahy o komplexnější regulaci umělé inteligence, ty ale nyní stanovují spíše priority ve využití AI a nezavádí vymahatelná legislativní opatření. Z tohoto důvodu hodnotíme výrok Alexandra Vondry jako pravdivý.