AI Act: Nové nařízení a jeho dopad na využití umělé inteligence

Od 12. července tohoto roku bude Evropská unie svědkem nové éry regulace umělé inteligence (AI), čeká se jen na jeho zveřejní, kdy stane se platným AI Actem. Toto nařízení je zásadní pro všechny subjekty, které využívají, vyvíjejí nebo nabízejí systémy umělé inteligence v rámci EU. AI Act zavádí přísné požadavky a klasifikace rizik, které mají za cíl minimalizovat rizika spojená s AI a chránit práva občanů. Co AI Act přináší, jaké jsou jeho hlavní požadavky a jak se na něj připravit?

Řízení rizik a klasifikace AI systémů

AI Act zavádí čtyři úrovně rizika: nepřijatelné, vysoce rizikové, omezené a minimální riziko. Nepřijatelné riziko zahrnuje systémy, které jsou považovány za příliš nebezpečné, jako jsou systémy pro sociální scoring nebo biometrickou identifikaci v reálném čase ve veřejném prostoru. Tyto systémy budou v EU zakázány.

Vysoce rizikové systémy, na druhé straně, zahrnují systémy, které mohou mít nepříznivý dopad na bezpečnost fyzických osob nebo na základní práva. Patří sem například systémy pro řízení kritické infrastruktury, nábor zaměstnanců nebo hodnocení žádostí o zaměstnání. U těchto systémů AI Act požaduje přísné řízení rizik, transparentnost a pravidelné hodnocení.

Co to znamená pro firmy?

Firmy, které vyvíjejí nebo používají vysoce rizikové systémy AI, budou muset splňovat řadu požadavků. Jedním z nich je tzv. posouzení shody (Conformity Assessment), které musí prokázat, že systém splňuje všechny stanovené požadavky. Dokument o posouzení shody musí obsahovat název a typ systému, informace o poskytovateli, deklaraci odpovědnosti poskytovatele a prohlášení o shodě s AI Actem.

Kromě toho budou muset být vysoce rizikové systémy AI navrženy tak, aby byly transparentní a pro uživatele srozumitelné. Musí být schopny zaznamenávat svou aktivitu a jednotlivé události po celou dobu své životnosti. To zahrnuje například uložení datových logů, což umožní zpětné sledování činnosti systému a identifikaci případných problémů.

Dopad na lidská práva

Jednou z novinek, které AI Act přináší, je povinnost provádět hodnocení dopadu na základní lidská práva (Fundamental Rights Impact Assessment, FRIA). Tato povinnost se týká zejména veřejnoprávních subjektů a soukromých subjektů poskytujících veřejné služby, ale také provozovatelů některých vysoce rizikových systémů AI, jako jsou systémy pro hodnocení úvěruschopnosti fyzických osob nebo posuzování rizik a cen v rámci pojištění.

FRIA musí zahrnovat popis procesu, ve kterém bude AI systém používán, dobu a četnost jeho použití, definici dotčených fyzických osob a opatření, která mají být přijata v případě naplnění rizik. Tento proces se částečně překrývá s požadavky GDPR na posuzování dopadů zpracování osobních údajů (Data Protection Impact Assessment, DPIA), a proto může být efektivní provádět oba typy hodnocení společně.

Jak se připravit na AI Act

Příprava na dodržování AI Actu zahrnuje několik kroků. Nejprve je důležité provést interní audit všech AI systémů, které podnik využívá, aby se zjistilo, do jaké kategorie rizika spadají. Pro vysoce rizikové systémy bude nutné vypracovat dokumentaci a provést posouzení shody. Podniky by měly také zavést systém řízení rizik, který identifikuje a analyzuje potenciální rizika spojená s AI a přijme opatření k jejich řízení.

Důležitým krokem je rovněž školení zaměstnanců o nových požadavcích a postupů, aby byli schopni správně využívat a řídit AI systémy. Transparentnost a srozumitelnost systémů pro uživatele jsou klíčové, proto by měla být připravena jasná a detailní dokumentace k používání AI systémů.

Praktické rady

Podniky by měly také zvážit využití externích konzultantů a odborníků na AI a právní předpisy, kteří mohou pomoci s přípravou a implementací požadavků AI Actu. Důležité je rovněž sledovat další vývoj v oblasti regulace AI a případné změny a aktualizace AI Actu, aby podniky mohly včas reagovat na nové požadavky.

Využití umělé inteligence přináší mnoho výhod, ale také řadu rizik, která je nutné pečlivě řídit. AI Act je krokem správným směrem k zajištění bezpečnosti a ochrany práv občanů v éře rostoucího vlivu AI. Dodržování jeho požadavků bude vyžadovat úsilí a investice, ale výsledkem bude transparentní a odpovědné využívání AI technologií, které přinese prospěch všem zúčastněným stranám.