Zákon o regulaci AI v Evropské unii

Evropský parlament započal proces vedoucí ke schválení prvního zákona regulujícího umělou inteligenci na světě.

Umělá inteligence se v posledních letech stala nedílnou součástí mnoha sektorů. Ať už zde mluvíme o jejím použití pro zlepšování zákaznického servisu, nebo například ve finančním odvětví či při investování. Doposud však nebyl nikde na světě schválen legislativní rámec, který by AI reguloval. Průlomem by měl být zákon předložený Evropskému parlamentu ke schválení.

V červnu tohoto roku prošel zákon o AI prvotním hlasováním, po němž bude následovat projednávání detailů s Evropskou komisí. Hlavním cílem je blíže definovat pojem umělé inteligence, vymezit standardy pro její použití a celkově unifikovat předpisy v rámci Evropské unie. Dle tohoto zákonu je umělá inteligence rozdělena do kategorií podle úrovně rizika, a to od „nepřijatelné“, „vysoké“ až po „nízké či minimální“. V případě AI představující nepřijatelné riziko můžeme hovořit například o technologii ohrožující zdraví a bezpečnost jedince či porušující dodržování lidských práv. V případě nízkého rizika se pak může jednat například o videohry, které jsou založené na umělé inteligenci.

Kromě rozdělení umělé inteligence do kategorií je zde také uveden seznam obsahující výčet zakázaných praktik. Prvotně seznam uvádí zákaz systémů pro vzdálenou biometrickou identifikaci na veřejně přístupných místech. Dále jsou zde zmíněny biometrické kategorizační systémy, které využívají charakteristik jedinců jako např. pohlaví, rasa, státní občanství či náboženství. Zákaz se dotkne i prediktivních policejních systémů založených na profilování a minulém kriminálním chování osob nebo systémů schopných rozpoznat emoce.

Evropští poslanci ale berou ohled i na případnou vědeckou stránku použití umělé inteligence. Pro tyto případy jsou v zákoně zahrnuty výjimky týkající se použití AI pro výzkumné účely. Zákon také podporuje použití tzv. sandboxů, což jsou kontrolovaná prostředí vyvinutá veřejnými orgány za účelem testování umělé inteligence.

Určitě mnohé napadlo, co bude se systémy jako ChatGPT, které vstoupily do našeho každodenního života. V tomto případě je valná většina z nich zařazena do kategorie s nízkým nebo žádným rizikem.

A jaké tedy budou sankce za porušení zákona? 

Za nedodržení platných předpisů může být udělena pokuta až do výše 30 milionů eur nebo 6 % ročního příjmu konkrétního subjektu. Ve všech členských státech pak bude prosazování a dodržování nových pravidel záviset na podpoře ze strany zákonodárců a místních municipalit. Pro finální schválení tohoto zákona musí ještě projít hlasováním evropských poslanců a v platnost by mohl vstoupit nejdříve v roce 2025 po volbách do Evropského parlamentu. 

Dragos Tudorache, člen evropského parlamentu, se pak pro web Deutsche Welle vyjádřil následovně: „Neregulujeme technologii samotnou, regulujeme používání technologie – a tato pravidla jsou a budou stejná nyní nebo za pět let."

redaktorka: Elena Salfická

Vystudovala obor Ekonomika a management na Univerzitě Pardubice. Zajímá se o investování a zahraniční politiku. Kromě publikací textů na edevizy.cz působí i jako produktový editor.