Dne 14. června 2023 přijal Evropský parlament svůj vyjednávací postoj [1] k návrhu připravovaného nařízení [2] Evropského parlamentu a Rady EU, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci nebo také AI Act).
Dle původního návrhu regulace AI jsme pro Vás již připravili základní Směrnici o možnostech užívání umělé inteligence a současně Vás průběžně informujeme i na našich webových stránkách a sociálních sítích. V tomto článku se proto zaměřujeme výhradně na aktuálně Evropským parlamentem odsouhlasené změny AI regulace.
Ačkoli původní návrh nařízení oslavil teprve druhé výročí, pokrok a inovace na trhu umělé inteligence (AI) vedly zákonodárce i k přepracování základní definice systému AI, kterým se nyní nově rozumí:
„Strojový systém, který je navržen tak, aby pracoval s různou úrovní autonomie, a který může pro explicitní nebo implicitní zadání vytvářet výstupy, jako jsou předpovědi, doporučení nebo rozhodnutí, které ovlivňují fyzické nebo virtuální prostředí.“ [3]
Z nové definice lze sledovat vliv nových a velmi rozšířených systémů typu ChatGPT či Midjourney, neboť nyní počítá s menším vstupem ze strany člověka při zadání požadavku na výstup. Současně je znát snaha zákonodárce o větší obecnost definice systému umělé inteligence a pokrytí co největšího množství potenciálních budoucích případů.
Přečtěte si, na co si dát pozor ve vztahu objednatel/dodavatel při užívání AI v našem dalším článku ↗.
Změny AI nařízení přináší i množství nových základních principů, či jejich upřesnění, společných pro všechny AI systémy. Tyto principy akcentují zejména lidskou kontrolu AI systémů, jejich zabezpečení proti zneužití třetími stranami, vysokou ochranu osobních údajů, transparentnost pro uživatele ohledně skutečnosti, že komunikují s AI a nikoli s člověkem. [4] Spolu s tím regulace AI apeluje na zvyšování gramotnosti v oblasti AI při implementaci a užívání systémů. [5]
Pro vývojáře AI systémů je podstatné, že u systémů neslučitelných s připravovaným nařízením, bude dle recitálu nařízení zakázán i jejich vývoz do třetích zemí poskytovateli se sídlem v EU. [6]
Dále se v nařízení významně rozšířil seznam, který obsahuje zakázané AI systémy, a to pro jejich vysokou míru nebezpečnosti. Jde zejména o:
Změny v neposlední řadě definují tzv. základní model (foundation model), který je trénován na rozsáhlých datech a pro obecnost jeho výstupů je přizpůsobitelný široké škále různých úloh. [12]
Jako jeho podmnožina je pak nově definována i generativní AI (generative AI), a to jako základní model používaný v systémech AI, které jsou specificky určeny ke generování obsahu (s různou mírou autonomie).
Takto generovaným obsahem může být komplexní text, obrázky, zvuk nebo i video. [13] Pod generativní AI spadá kupř. i ChatGPT od OpenAI.
Na poskytovatele základního modelu (ať už samostatného nebo začleněného do jiného systému AI) klade nařízení množství požadavků. Ty navíc musí být splněny dříve, než je systém zpřístupněn na trhu nebo uveden do provozu. Jde zejména o povinnost:
Stejné povinnosti se vztahují i na generativní AI modely. Jejich poskytovatelům navíc přibývají zejména povinnosti:
Zejména poslední povinnost vyvolala velký ohlas. Dobře sestavená tréninková data jsou základem funkčního systému a poskytovatelé si své zdroje budou chtít chránit tak, aby nemohl být jejich trénink napodoben. Současně nebudou chtít přiznat případné porušení práv z duševního vlastnictví při tréninku svého modelu.
Změny v AI Act dále upřesňují a rozšiřují výše uvedené povinnosti transparentnosti způsobem, kdy:
Nařízení dále nově namísto panelu pro umělou inteligenci zřizuje Úřad pro umělou inteligenci (AI Office) [19] se sídlem v Bruselu, jehož účelem bude zejména:
Nařízení dále rozšiřuje pravomoci vnitrostátních orgánů dozoru o možnost:
Za zmínku dále stojí, že se nařízení nově nevztahuje na součásti některých systémů AI poskytovaných na základě svobodných licencí a licencí s otevřeným zdrojovým kódem. Toto vynětí však obsahuje velké množství výjimek, jako jsou: vysoce rizikové systémy AI, základní modely, deep fake systémy, systémy, které interagují s fyzickou osobou, zakázané systémy pro rozpoznávání emocí a biometrické kategorizace apod.). [23]
Pokud potřebujete s nastavením interních pravidel pro používání AI pomoct, neváhejte nás
kontaktovat ↗.
S ohledem na rychlost vývoje v této oblasti, bude velmi zajímavé sledovat, jak pružně dokáže zákonodárce reagovat na technologický pokrok. A to zejména tam, kde by docházelo k novým formám zneužívání AI, na které EU regulace AI nepamatuje.
Nyní vchází proces přijetí nařízení do fáze tzv. trialogu mezi zástupci Evropského parlamentu, Rady Evropské unie a Evropské komise. Jeho cílem je připravit návrh do stavu akceptovatelného pro schválení Evropským parlamentem i Radou Evropské unie. [24] I upravený návrh tak stále může dostát výrazných změn.
Další vývoj regulace AI pro Vás budeme průběžně sledovat tak, abyste k okamžiku vstupu nařízení v účinnosti, byli na nová pravidla a podmínky plně připraveni.
Největší zálibu jsem nalezl v softwarovém právu, kterému se nyní věnuji na plný úvazek. Tato oblast neustále prochází rychlým vývojem, na který mnohdy nestíhá reagovat ani zákonodárce se stanovením základních podmínek pro specifické smluvní typy. O to podstatnější je správné nastavení práv a povinností přímo v dohodách, smlouvách či obchodních podmínkách. Naopak zákonodárce v oblasti IT mnohdy přichází s rozsáhlými příkazy, zákazy či omezeními, s jejichž implementací vám rovněž rád pomohu.
Nejraději pomáhám těm, kdo potřebují skloubit právo s technologiemi. Ve světě IT a software se totiž cítím jako ryba ve vodě. Už od mala mě přitahovaly nové technologie a promítání science fiction do našeho světa. Až při studiu na vysoké škole jsem si však uvědomil, kolik etických a právních překážek je nutné překonat před jejich uvedením do reality.
[1] Změny přijaté Evropským parlamentem dne 14. června 2023 k návrhu nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a kterým se mění některé legislativní akty Unie (KOM(2021)0206 - C9-0146/2021 - 2021/0106(COD) (dale jen “Změny”). Dostupné online: https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.html [přístup 12.7.2023].
[2] Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a kterým se mění některé legislativní akty Unie. Dostupné online: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206 [přístup 12.7.2023].
[3] Změny, Amendment 165.
[4] Ibid, Amendment 213.
[5] Ibid, Amendment 214.
[6] Ibid, Amendment 29.
[7] Ibid, Amendment 217.
[8] Ibid, Amendment 218.
[9] Ibid, Amendment 224.
[10] Ibid, Amendment 225.
[11] Ibid, Amendment 226.
[12] Ibid, Amendment 168.
[13] Ibid, Amendment 399.
[14] Ibid, Amendment 399.
[15] Ibid, Amendment 399.
[16] Ibid, Amendment 484.
[17] Ibid, Amendment 488.
[18] Ibid, Amendment 484.
[19] Ibid, Amendment 525 a násl.
[20] Ibid, Amendment 206.
[21] Ibid, Amendment 529.
[22] Ibid, Amendment 587.
[23] Ibid, Amendment 164.
[24] Trialog. Dostupné online: https://eur-lex.europa.eu/legal-content/CS/TXT/HTML/?uri=LEGISSUM:trialogue. [přístup 12.7.2023].