Software a umělá inteligence v nejrůznějších podobách pronikají stále hlouběji do každodenních činností člověka, ať už v pracovním, nebo v soukromém životě. Od chytrých telefonů, přes algoritmy, které vám doporučí ideálního zaměstnance, až po samořídící auta. S masivním rozmachem přichází i snaha o regulaci softwaru s cílem zajistit, aby jeho používání přinášelo více benefitů než rizik. Právě proto Evropská unie přichází s novými směrnicemi, které mají jasně stanovit, kdo ponese odpovědnost za škody způsobené vadným výrobkem, včetně softwaru a technologiemi řízenými AI. V článku se podíváme na to, koho se regulace dotkne, jaké povinnosti přináší, a kdy se nových pravidel dočkáme v praxi.
Software dokáže věci, o kterých se nám ještě před pár lety ani nesnilo. Ale co když chytrý software nebo AI udělá chybu, která způsobí někomu jinému újmu? Může ohrozit řadu základních lidských práv, včetně zásahu do života, zdraví nebo práva na rovné zacházení. Těžko vyměříme pokutu algoritmu, těžko po softwaru nebo AI můžeme požadovat odškodnění. Je zřejmé, že regulace je v tomto ohledu nutná.
EU na toto konto připravila dvě nové směrnice: směrnici o odpovědnosti za vadné výrobky a směrnici o odpovědnosti za umělou inteligenci.
Nová pravidla mají lidem i firmám pomoct najít odpovědné osoby a zároveň poskytovat určité záruky firmám, které software a AI používají.
Směrnice o odpovědnosti za vadné výrobky byla schválena 23. října 2024 a členské státy musí nejpozději do 9. prosince 2026 přijmout předpisy nezbytné pro dosažení souladu se směrnicí. Směrnice o odpovědnosti za AI zatím stále prochází legislativním procesem EU, nicméně i její účinnost můžeme očekávat v podobném časovém horizontu.
Nová směrnice nahrazuje původní směrnici z roku 1985 a přizpůsobuje se vývoji moderních technologií. Cílem směrnice je změna režimu odpovědnosti za výrobek tak, aby byla efektivní v dnešní digitální době a zajistila právní jistotu a ochranu pro ty, kteří požadují náhradu škody.
Do definice výrobků tak nově spadají i software a digitální výrobní soubory. Výjimku však tvoří svobodný software s otevřeným zdrojovým kódem, pokud byl vyvinutý nebo dodaný mimo rámec obchodní činnosti. Tato změna a nezačlenění svobodného softwaru má zajistit, že škody způsobené technologiemi budou nahrazeny, aniž by byly ohroženy inovace a vývoj s pomocí svobodného softwaru.
Směrnice usnadňuje poškozenému prokázat, že mu byla způsobena škoda v důsledku použití vadného software. Zejména má poskytnout efektivní nástroje k identifikaci možných odpovědných osob a shromáždění relevantních důkazů pro uplatnění nároku na náhradu škody. Soudy tak budou moct nařídit, aby osoby žalované za způsobení škody softwarem zpřístupnily důkazy, pokud poškozená osoba osvědčí oprávněnost svého nároku.
Pokud žalovaný nezpřístupní příslušné důkazy, tak se automaticky předpokládá, že je software vadný. Stejně tak se předpokládá, že software je vadný, pokud žalobce osvědčí, že nesplňuje povinné požadavky na bezpečnost stanovené právem, nebo že škoda byla způsobena zjevnou závadou software při důvodně předvídatelném používání nebo za běžných okolností.
Automatický předpoklad vadnosti software také nastane, pokud má žalobce nepřiměřené obtíže s prokázáním vady software, nebo pokud žalobce osvědčí, že je pravděpodobné, že je software vadný.
Funguje to ale i obráceně. Takže pokud žalovaný potřebuje důkazní prostředky pro rozporování nároku na náhradu škody, tak může soud uložit povinnost zpřístupnit důkazy žalobci.
Důležité: Nová směrnice se bude vztahovat pouze na výrobky, které byly uvedeny na trh nebo do provozu po 9. prosinci 2026 a výrobky uvedené na trh nebo do provozu před tímto datem se nadále řídí předchozí směrnicí 85/374/EHS.
Všechny evropské regulace bedlivě sledujeme a hlídáme, aby podnikání našich klientů bylo vždy v souladu s DSA, P2B i DAC7 ↗. Podíváme se i na vaši platformu.
Pod nová pravidla spadá nejen výrobce vadného produktu či jeho části, ale také dovozce vadného výrobku, zplnomocněný zástupce výrobce nebo poskytovatel služeb vyřízení objednávek. Dále může být podle nové směrnice odpovědná každá osoba, která podstatně upraví výrobek a dodá jej na trh. V případě, že nelze určit odpovědný subjekt, který je usazen v Unii, nesou odpovědnost distributoři výrobků, nebo poskytovatelé online platforem za podmínek stanovených zákonem.
Směrnice stanovuje několik výjimek z odpovědnosti. Jednou z těchto výjimek je prokázání, že vada vznikla až poté, co byl výrobek uveden na trh. Nicméně toto osvobození od odpovědnosti za vadu se nevztahuje na škody, které byly způsobeny softwarem, včetně jeho aktualizací nebo naopak nedostatkem aktualizací.
Druhá směrnice upravuje zvláštní pravidla pro zpřístupnění důkazů o škodách způsobených AI. Podobně jako u směrnice o odpovědnosti za vady může soud nařídit zpřístupnění příslušných důkazů o konkrétních vysoce rizikových systémech AI ↗, pokud existuje podezření, že způsobily škodu a u nichž žalovaný neúspěšně učinil všechny pokusy o shromáždění důkazů sám.
Kvůli složitosti a někdy i autonomii chytrých zařízení či softwaru je často těžké prokázat, co přesně škodu způsobilo. Proto směrnice zavádí tzv. vyvratitelnou domněnku – pokud žalovaný nepředloží požadované důkazy, nebo nedodrží povinnost řádné péče, tak se důkazní břemeno opět přesouvá na žalovaného. Ten pak musí dokázat, že škodu nezpůsobil a vyvrátit tak domněnku.
K uplatnění vyvratitelné domněnky může dojít za splnění všech těchto podmínek:
a) žalobce prokázal zavinění žalovaného spočívající v nedodržení řádné péče stanovené předpisy,
b) pokud lze považovat za pravděpodobné, že zavinění mělo vliv na výstup AI a
c) pokud žalobce prokáže, že výstup AI vedl ke vzniku škody. Směrnice dále stanovuje speciální podmínky pro vysoce rizikové systémy AI, které upřesňují splnění první zákonné podmínky.
Důležité je také to, že první podmínka (porušení řádné péče) se bude u poskytovatelů a uživatelů vysoce rizikových systémů AI předpokládat, pokud nedodrží požadavky na ně kladené dle Aktu o umělé inteligenci ↗ pro přesnější definice.
Směrnicí nejsou dotčena práva, která má osoba dle směrnice o odpovědnosti za vadný výrobek. Také jí nejsou dotčena stávající pravidla upravující podmínky odpovědnosti v odvětví dopravy, pravidla stanovená aktem o digitálních službách (DSA) ↗ a nevztahuje se ani na trestní odpovědnost.
Nespadáte náhodou do kategorie vysoce rizikových systémů AI? Napište nám ↗ a zjistíme to spolu.
Členské státy musí implementovat směrnice do svých zákonů do dvou let. V případě směrnice o odpovědnosti za vadné výrobky je již jisté, že nová pravidla budou platit od 9. prosince 2026.
A pokud by směrnice o odpovědnosti za AI byla schválena ještě do konce roku 2024, nová pravidla by mohla také platit od konce roku 2026.
Nové směrnice hledají rovnováhu mezi ochranou obětí škod způsobených technologiemi a zájmy firem, vývojářů a výrobců, kteří s produkty pracují. Na jedné straně směrnice usnadňují poškozeným získat odškodnění, na druhé straně nabízí firmám záruky, například možnost napadnout nárok z odpovědnosti na základě domněnky příčinné souvislosti podle směrnice o odpovědnosti za AI. Hlavním cílem směrnic je zvýšit důvěru veřejnosti v technologie a AI, podpořit jejich bezpečné využívání v celé EU a zabránit jejich potenciálně rizikovému použití.
Nejraději pomáhám těm, kdo potřebují skloubit právo s technologiemi. Ve světě IT a software se totiž cítím jako ryba ve vodě. Už od mala mě přitahovaly nové technologie a promítání science fiction do našeho světa. Až při studiu na vysoké škole jsem si však uvědomil, kolik etických a právních překážek je nutné překonat před jejich uvedením do reality.
