Odpovědnost za AI: Kdo ponese vinu?

Umělá inteligence (AI) se stále častěji objevuje v pracovním prostředí, a to v nejrůznějších formách – od analýzy dat přes automatizované řízení pracovních procesů až po systém zákaznické podpory. Rychlý rozvoj těchto technologií klade před firmy, právníky a zaměstnavatele zásadní otázky týkající se odpovědnosti za chyby, které AI může udělat. Kdo ponese vinu, když rozhodnutí přijaté AI způsobí škodu? A jaké kroky je potřeba učinit, aby se předešlo právním problémům?

V současnosti česká legislativa neposkytuje speciální právní rámec pro odpovědnost za rozhodnutí přijatá umělou inteligencí. To znamená, že firmy musí v případě právních sporů vycházet z obecné odpovědnosti za škodu, jak ji stanovuje § 2910 občanského zákoníku. Tento paragraf se vztahuje na odpovědnost za způsobenou újmu, která je v praxi obvykle spojena s osobou, která dané rozhodnutí či chybu způsobila. Pokud AI udělá chybu, je nutné zjistit, kdo za ni odpovídá. V praxi platí, že odpovědnost nese vždy ten, kdo AI využívá – tedy zaměstnavatel, který ji implementoval do pracovních procesů. Situace se však může komplikovat v případě, že systém AI je dodáván externí firmou, která jej vyvinula nebo provozuje. Například pokud AI způsobí diskriminační rozhodnutí při výběrovém řízení na pracovní pozici, může být odpovědnost rozdělena mezi zaměstnavatele a dodavatele softwaru, pokud ten nedostatečně otestoval algoritmus a jeho etické dopady.

Evropská unie se snaží situaci s využíváním AI v pracovním prostředí řešit novou legislativou. V roce 2021 byla předložena takzvaná AI Act, která by měla přinést do právního rámce pravidla pro správu a využívání AI v různých sektorech. Základními pilíři tohoto návrhu jsou rizikové kategorizace AI systémů a povinnost transparentnosti. Podle navrhovaného nařízení AI Act budou všechny systémy umělé inteligence rozděleny podle rizika, které představují. Nejvyšší riziko se vztahuje na systémy, které ovlivňují rozhodování v pracovní sféře, jako jsou algoritmy pro výběr zaměstnanců nebo hodnocení jejich výkonnosti. Tyto systémy spadají do kategorie „vysokého rizika“ a EU na ně plánuje uvalit přísná pravidla. Kromě toho budou firmy povinny informovat své zaměstnance o tom, jak AI funguje, jaký má vliv na pracovní prostředí a jaká rozhodnutí přijatá AI ovlivňují jejich pracovní podmínky. Dalším důležitým bodem je povinnost provádět pravidelný audit a testování AI systémů. Firmy, které nasazují AI nástroje ve své činnosti, budou muset prokázat, že jejich systémy nevedou k diskriminaci, neporušují práva jednotlivců a že jsou v souladu s platnou legislativou. I když AI přináší efektivitu a inovace, je nezbytné zajistit, aby rozhodnutí, která systém přijímá, byla vyvážená a zodpovědná.

Zajištění právní ochrany proti možným problémům spojeným s AI začíná na pracovním trhu, konkrétně u aktualizace pracovních smluv. Zaměstnavatelé by měli do smluv zařadit jasně formulované ustanovení týkající se odpovědnosti zaměstnanců za práci s AI. To znamená definovat nejen to, jaké povinnosti vůči systémům AI zaměstnanci mají, ale i jaké jsou jejich limity, pokud jde o používání a ovlivňování rozhodnutí AI. Dalším krokem je zajištění lidského dohledu nad rozhodnutími, která AI dělá. V žádném případě by se neměla spoléhat výhradně na automatizované procesy, které mohou mít nežádoucí důsledky, například diskriminaci, špatné odhady nebo chyby v analýze dat. Lidský faktor je stále nezbytný pro ověření důležitých rozhodnutí, která ovlivňují pracovníky nebo zákazníky. Interní směrnice o používání AI v organizaci musí jasně stanovit, jakým způsobem budou zaměstnanci s technologiemi pracovat. Tato pravidla by měla být součástí širšího školení, které bude zahrnovat etické a právní aspekty, ale i technické instrukce, jak systém správně využívat a co dělat v případě jeho chybného fungování. Firmy by měly mít také připravený plán pro implementaci AI Act. Tento právní rámec, který se připravuje na úroveň EU, bude mít zásadní vliv na to, jak budou firmy používat AI ve svých činnostech, a jaká pravidla budou muset dodržovat. Sledování legislativního vývoje a včasná implementace změn může firmám ušetřit spoustu problémů, a to jak právních, tak finančních.

AI představuje revoluci ve způsobu, jakým se podniky organizují a jakým způsobem komunikují s klienty. Avšak jakékoli technologické inovace nesou riziko, a to platí i pro umělou inteligenci. Neexistence jasné právní úpravy pro odpovědnost za chyby AI v českém právu znamená, že firmy musí věnovat pozornost každému detailu – od nastavení odpovědnosti po úpravu pracovních podmínek a školení zaměstnanců. Pro aktivní prevenci právních problémů spojených s AI by měly být firmy proaktivní, a to nejen v reakci na legislativní změny, ale i v běžné praxi při správě těchto systémů.