Příprava SME na AI ACT

Evropská unie přichází s novými pravidly pro umělou inteligenci, která se dotknou i malých a středních podniků (SME). Od 2. února 2025 vstoupila v platnost první povinnosti vyplývající z nařízení AI ACT. Pokud vaše firma využívá nebo vyvíjí systémy AI, je důležité se připravit na nová omezení, povinnosti a rizika.

Evropská unie zakázala některé formy umělé inteligence, které považuje za nepřípustné z hlediska etiky a bezpečnosti. Pokud vaše AI systémy zahrnují sociální skórování, tedy hodnocení osob na základě jejich chování, ekonomické situace a dalších faktorů, nebo biometrickou identifikaci v reálném čase na veřejných místech, musíte tyto technologie okamžitě upravit nebo přestat používat. Stejně tak jsou zakázány manipulativní techniky zaměřené na zranitelné osoby.

AI už není pouze záležitostí IT oddělení. Každý, kdo ve firmě přichází do styku s umělou inteligencí, musí rozumět jejím funkcím a rizikům. To znamená zavedení pravidelných školení pro zaměstnance v administrativě, marketingu, obchodu i managementu. Ignorování AI gramotnosti může v budoucnu znamenat nejen právní rizika, ale i konkurenční nevýhodu.

Regulace zavádí kategorizaci AI systémů podle rizikovosti. Systémy s nepřijatelným rizikem jsou automaticky zakázány, jak bylo zmíněno v sekci o zakázaných praktikách. Systémy s vysokým rizikem vyžadují certifikaci, průřezové kontroly a dokumentaci. Na druhé straně systémy s minimálním a nízkým rizikem, jako jsou například chatboty a AI asistenti pro e-commerce, podléhají mírnějším požadavkům. Pro SME je klíčové zjistit, do které kategorie jejich systém spadá, a podle toho se přizpůsobit.

Porušení AI ACT může mít pro firmu finanční důsledky. Za zakázané praktiky hrozí pokuta až 35 milionů EUR nebo 7 % ročního obratu. Nesoulad s regulacemi pro vysokorizikovou AI může být sankcionován pokutou až 15 milionů EUR nebo 3 % obratu. Poskytování nepravdivých informací regulačním orgánům může stát firmu až 7,5 milionu EUR nebo 1 % obratu. Je tedy jasné, že dodržování pravidel je zásadní.

Provádějte audit AI systémů a zjistěte, zda se vás regulace týkají a do jaké rizikové kategorie spadáte. Přizpůsobte smlouvy s dodavateli AI technologií, aby byly v souladu s AI ACT. Zajistěte pravidelná AI školení pro zaměstnance a zavedení politiky odpovědnosti při jejím používání. Kontrolujte data a transparentnost AI systémů, aby správně zacházely s daty, nebyly diskriminační a byly vysvětlitelné.

Dále je důležité se zaměřit na několik klíčových oblastí:

Monitoring a hodnocení systémů AI: Pravidelně sledujte a vyhodnocujte výkon a dopady vašich AI systémů. To zahrnuje sledování, jak vaše systémy fungují v praxi, a zajištění toho, že dodržují všechny právní a etické normy.

Implementace etických zásad: Zavádění a prosazování etických zásad pro vývoj a používání AI systémů je klíčové. To může zahrnovat vytvoření kodexu chování pro vaše zaměstnance a pravidelné školení o etických otázkách spojených s umělou inteligencí.

Zabezpečení dat a soukromí: Zajistěte, aby vaše AI systémy správně zacházely s citlivými daty a chránily soukromí uživatelů. To může zahrnovat zavedení silných bezpečnostních opatření a pravidelných auditů bezpečnosti dat.

Transparentnost a odpovědnost: Buďte transparentní ohledně toho, jak vaše AI systémy fungují, a kdo je za ně odpovědný. To může zahrnovat zveřejnění informací o tom, jak vaše AI systémy přijímají rozhodnutí, a umožnění uživatelům klást otázky a podávat stížnosti.

Inovace a adaptace: Neustále se učte a přizpůsobujte nové technologii a regulačním požadavkům. To může zahrnovat investice do výzkumu a vývoje a spolupráci s odborníky a akademiky na vývoji nových a vylepšených AI systémů.

Klíčové milníky

Od 2. února 2025 začíná platit první sada povinností. 2. srpna 2025 dochází k dalšímu rozšíření regulace a zvýšení požadavků na AI systémy. Od 2. února 2027 bude AI ACT plně účinný, včetně tvrdých sankcí.

AI ACT pro SME znamená především značnou administrativní a finanční zátěž. Připravte se na to, že budete muset investovat do auditů, školení a úpravy smluv. Nečekejte, že se jedná o snadný proces. Regulace je komplexní a její implementace bude vyžadovat značné úsilí. Zvažte, zda se vám vyplatí investovat do vysoce rizikových AI systémů, nebo se zaměřte na systémy s nižším rizikem, které jsou méně náročné na implementaci. Nezapomeňte, že dodržování pravidel je klíčové, abyste se vyhnuli vysokým pokutám. Využijte tuto situaci k tomu, abyste si uvědomili, jaké jsou reálné možnosti využití AI ve vaší firmě a zda se vám investice do této technologie skutečně vyplatí. Začněte s přípravami co nejdříve, ale buďte realističtí ohledně nákladů a úsilí, které to bude vyžadovat.