Jak zkrotí AI Act umělou inteligenci?

Evropská unie chystá zásadní změnu v oblasti umělé inteligence (AI). Nový předpis s názvem AI Act má za cíl zajistit, aby tato technologie sloužila lidem a ne jim škodila. Nařízení se zaměřuje na ochranu lidských práv a zvýšení bezpečnosti. Cílem je zavést jasná pravidla, která zajistí, že AI bude lidem sloužit, ne škodit.

Evropská unie v roce 2023 schválila revoluční regulaci s názvem AI Act, která má za cíl regulovat používání umělé inteligence v EU. Nařízení rozlišuje mezi systémy AI podle míry rizika, které představují, a zavádí přísné požadavky na ty nejrizikovější aplikace. Cílem je zajistit, aby AI byla používána zodpovědně a transparentně a chránila se základní práva a bezpečnost občanů EU.

AI Act se týká široké škály systémů AI, od chatbotů a softwaru pro rozpoznávání obličeje až po systémy pro autonomní řízení a algoritmy pro hodnocení úvěruschopnosti. Pro každý typ systému AI nařízení stanoví specifické požadavky, které musí být splněny, aby mohl být systém uveden na trh a používán v EU.

Nejvíce budou ovlivněny firmy, které vyvíjejí, používají nebo prodávají systémy AI s vysokým rizikem. Tyto systémy musí projít přísným posouzením shody a splnit požadavky na důvěryhodnou AI, včetně transparentnosti, robustnosti a kybernetické bezpečnosti. Poskytovatelé těchto systémů musí také zavést systémy řízení kvality a rizik a v případě potřeby zapsat své systémy do veřejné databáze EU.

AI Act přináší i řadu povinností pro uživatele systémů AI. Uživatelé musí být informováni, že komunikují s AI systémem, a musí mít možnost tato data kontrolovat a spravovat. Výstupy systémů AI generujících syntetický obsah, jako jsou deepfakes, musí být jasně označeny jako uměle vytvořené.

Důležité termíny a přechodná období

AI Act se stane plně závazným 24 měsíců po vstupu v platnost, tj. v červnu 2026. Do té doby budou postupně uplatňovány různé části nařízení. Již 6 měsíců po vstupu v platnost (koncem roku 2024) bude zakázáno používání některých systémů AI, jako jsou systémy sociálního kreditního hodnocení a systémy pro rozpoznávání emocí na pracovišti.

Dopad na firmy

AI Act bude mít značný dopad na firmy v celé EU. Firmy, které vyvíjejí, používají nebo prodávají systémy AI, se budou muset seznámit s novými požadavky a provést nezbytné změny ve svých procesech a produktech. Úřady budou muset dohlížet na dodržování pravidel a v případě potřeby ukládat sankce.

Důležité je, aby se firmy a úřady na implementaci AI Actu začaly připravovat co nejdříve. To jim umožní splnit nové požadavky včas a minimalizovat rizika porušení pravidel.

AI Act je přelomová regulace, která má potenciál zásadně ovlivnit vývoj a používání umělé inteligence v Evropě i ve světě. Cílem nařízení je zajistit, aby AI sloužila lidem a ne jim škodila, a chránila se základní práva a bezpečnost občanů.

Implementace AI Actu bude náročná, ale nezbytná pro zodpovědné a transparentní používání umělé inteligence. Firmy by se měly na novou regulaci začít připravovat co nejdříve, aby splnily všechny požadavky a maximalizovaly potenciální benefity AI pro společnost.

AI Act otevírá novou kapitolu v historii umělé inteligence. Jak se tato technologie bude vyvíjet a jaký dopad bude mít na naše životy, se teprve uvidí. Jedno je ale jisté: AI Act je důležitým krokem směrem k zodpovědnější a transparentnější budoucnosti s umělou inteligencí.

Zajímavosti:

• Věděli jste, že AI Act je prvním komplexním regulačním rámcem pro umělou inteligenci na světě?
• Za porušení pravidel AI Actu hrozí firmám pokuty až do výše 7 % ročního obratu nebo 35 milionů eur, v závislosti na tom, která částka je vyšší.
• Očekává se, že AI Act povede k růstu trhu s důvěryhodnou AI, tj. s AI, která je bezpečná, transparentní a etická.