AI Act před schválením Evropským parlamentem. Umělé inteligenci nastaví nový legislativní rámec

Konečná podoba nařízení o umělé inteligenci (AI Act) bude dnes hlasována na plenárním zasedání Evropského parlamentu. Aktem Evropská unie nastavuje pravidla pro modely umělé inteligence, zejména pak ty klasifikované jako vysoce rizikové. Pravidla mají chránit bezpečnost, soukromí a práva občanů EU, zároveň ale mají umožnit firmám  v tomto rychle se vyvíjejícím odvětví dále inovovat. 

Po desítkách hodin vyjednávání byla v prosinci minulého roku dosažena předběžná dohoda nad podobou nařízení, které zavádí pravidla pro užívání modelů na bázi umělé inteligence. Po potvrzení této předběžné dohody ze strany členských států EU a v příslušných výborech EP se dnes uskuteční konečné hlasování také na plénu Evropského parlamentu. Umělá inteligence tak bude mít v případě schválení dojednaného nařízení konkrétní definici.

Definice umělé inteligence

Jedním z hlavních předmětů diskuzí mezi Evropským parlamentem, členskými státy a Evropskou komisí, která AI Act navrhla již v roce 2021, bylo hledání průniku mezi potřebou regulace možného problematického využití AI a jejím dalším rozvojem. „Původní text zaváděl příliš mnoho omezení, která by nás ve výsledku dostala do nevýhodné pozice vůči zbytku světa. Evropská legislativa by ale neměla stát v cestě dalším inovacím, pokud nejsou vyloženě škodlivé. Jsem proto rád, že se podařilo najít kompromis přijatelný pro všechny zúčastněné strany,“ popisuje Ondřej Kovařík, poslanec, který se nařízení v rámci jeho projednávání v Evropském parlamentu věnoval.

Zakázaná zóna

Působnost aktu o umělé inteligenci zahrnuje všechna odvětví vyjma armády. Typy umělé inteligence rozděluje do různých kategorií na základě potenciálních rizik a úrovně dopadu. Zcela zakázané budou biometrické kategorizační systémy (RBI), které kategorizují fyzické osoby podle jejich politických názorů, členství v odborech, náboženského nebo filozofického přesvědčení, pohlaví nebo sexuální orientace. Zakázán je také sběr fotografií obličejů za účelem vytváření databází pro jejich rozpoznávání.

Povinnosti pro vysoce rizikové systémy

Regulace základních modelů umělé inteligence (GPAI) byla dle Kovaříka nejnáročnější na shodu. „Obecné systémy umělé inteligence jsou velmi obsáhlou kategorií a mohou plnit řadu funkcí. Z mého pohledu ale není správné zatěžovat malé a střední evropské firmy, které chtějí integrovat systémy GPAI, mezi které patří například oblíbený Chat GPT, do svých systémů, zbytečnou regulační zátěží. Chceme-li hrát ve světě inovací a umělé inteligence první ligu, musíme jim v tom spíše být nápomocni,“ říká.

Právě k podpoře inovací v malých a středních podnicích mají sloužit takzvaná inovativní regulační prostředí (Regulatory Sandbox). Ta umožní firmám a inovátorům testovat nové produkty v omezených a kontrolovaných podmínkách, aniž by byli omezeni přísnými regulačními požadavky platnými pro běžný trh.

Systémy umělé inteligence pro obecné účely pak dle nařízení musí dodržovat požadavky na transparentnost. V případě modelů GPAI s vysokým systémovým rizikem pak budou platit přísnější povinnosti. Mezi ty spadá například povinnost vypracování technické dokumentace, dodržování autorského práva EU nebo pravidelné hodnocení modelů a podávání zpráv o jejich energetické účinnosti.

Dvouleté implementační období

Kovařík ale upozorňuje, že schválení dokumentu je pouze prvním krokem, zásadnější bude jeho následná implementace do praxe. V každém státě EU bude muset vzniknout úřad, který se touto problematikou bude zabývat. „V tomto ohledu zatím nevidím žádnou aktivitu ze strany úřadů v České republice. Máme zde špičková akademická pracoviště a také řadu inovativních firem, pro které taková podpora bude důležitá. Je na čase ze strany státu tuto podporu co nejdříve zajistit, “ uzavírá člen frakce Renew.

Po vydání nařízení bude následovat dvouleté implementační období, AI Act tak bude účinný podle předpokladu v roce 2026.