Odpovědnost za chyby softwaru

Když selže software, následky mohou být fatální. Vzpomeňte si na případy, kdy se samořídící auta stala účastníky nehod, chyby v algoritmech způsobily finanční ztráty nebo byly prolomeny citlivé údaje. Otázka zní: kdo nese odpovědnost za škody, které způsobují technologie? V tomto směru přichází Evropská unie s průlomovými opatřeními – dvěma směrnicemi, které mají jasně vymezit pravidla hry.

Nové směrnice řeší odpovědnost za škody způsobené vadným softwarem či AI, zavádějí nástroje pro dokazování škod, zohledňují vysokorizikové systémy AI a posouvají důkazní břemeno tam, kde je to nutné. Všechny nové mechanismy mají za cíl zajistit ochranu uživatelů i inovátorů, přičemž první změny se týkají trhu v roce 2026.

Nová směrnice o odpovědnosti za vadné výrobky nahrazuje zastaralé předpisy z roku 1985. Co to znamená? V první řadě rozšiřuje pojem "výrobek" o software, včetně aktualizací. Představte si, že si stáhnete aktualizaci do chytrého telefonu, která způsobí jeho nefunkčnost. Pokud jste běžným uživatelem, máte právo na odškodnění. Podmínkou je, že výrobek byl uveden na trh po 9. prosinci 2026. Na starší produkty se vztahují staré předpisy.

Druhá zásadní změna přichází s předpokladem vadnosti. Pokud software nesplňuje bezpečnostní standardy, zjišťuje chyby při běžném používání nebo umožňuje uživatelům získat důkazy o své kvalitě, soud ho automaticky považuje za vadný. To je klíčové v situacích, kdy prokázání vady přesahuje možnosti poškozeného.

Složitost digitálních produktů často ztěžuje identifikaci problému. Kdo je odpovědný, když samořídící auto nabourá kvůli chybě softwaru? Výrobce auta? Vývojář softwaru? Poskytovatel aktualizace? Směrnice zavádí nový mechanismus: soud může nařídit zpřístupnění důkazů osobě, která škodu utrpěla, což výrazně zjednodušuje proces vymáhání náhrady. V opačném případě – pokud žalovaný důkazy neposkytne – se předpokládá, že software byl vadný. Totéž platí, pokud se prokáže, že žalovaný nedodržel povinné standardy bezpečnosti, nebo že škoda vznikla zjevnou závadou softwaru.

Směrnice o odpovědnosti za AI se týká vysoce rizikových systémů, jako jsou diagnostické nástroje v medicíně nebo algoritmy pro řízení. Tyto systémy mají potenciál způsobit rozsáhlé škody, pokud selžou. Směrnice proto zavádí tzv. vyvratitelnou domněnku odpovědnosti. Například pokud poskytovatel systému AI nedodrží požadované standardy řádné péče (například pravidelné aktualizace nebo kontroly rizik), nese odpovědnost za škody, které jeho technologie způsobí. Vývojář tak musí prokázat, že vynaložil veškeré úsilí k zajištění bezpečnosti svého produktu, jinak bude považován za odpovědného.

Nová pravidla se vztahují nejen na výrobce, ale i na dovozce, distributory či poskytovatele online platforem. Pokud například výrobek, jehož vadu nelze přičíst konkrétnímu subjektu, způsobí škodu, odpovědnost ponese distributor nebo platforma, skrze kterou byl výrobek uveden na trh. Na druhé straně, pokud je prokázáno, že vada vznikla až po uvedení výrobku na trh – například v důsledku neodborného zásahu uživatele – odpovědnost výrobce odpadá.

Pro firmy je klíčové začít co nejdříve přizpůsobovat své procesy novým pravidlům. Výrobci softwaru by měli provádět testování bezpečnosti produktů a pravidelné audity. Uživatelé AI musí zajistit, aby jejich systémy splňovaly požadavky na řádnou péči, například vedením detailní dokumentace o rizicích a jejich prevenci. Distributoři a platformy by měli uzavírat jasné smlouvy s dodavateli a zajistit, že produkty jsou testovány na standardy ještě před uvedením na trh.

Zatímco směrnice stanovují přísnější pravidla, jejich hlavním cílem je zvýšit důvěru veřejnosti v technologie. Systém, který chrání uživatele před riziky, je nezbytný pro podporu inovací. Jakmile se nová pravidla stanou realitou, bude pro firmy i spotřebitele snazší řešit následky technologických chyb a minimalizovat jejich dopady.

Evropská unie tím ukazuje jasný směr: technologie musí sloužit lidem, a ne naopak.