Umělá inteligence se dočká regulace na úrovni EU. Očekávaný návrh Nařízení o evropském přístupu k umělé inteligenci (AI) trochu úsměvně následoval osud návrhu Nařízení o správě dat. Oba totiž unikly na veřejnost před jejich oficiálním zveřejněním Evropskou komisí. Jaké jsou tedy nejzajímavější body nedávno zveřejněného návrhu "Nařízení o AI"?
Byť zveřejněn nejprve neoficiálně, není návrh pro znalé zásadním překvapení. Navazuje na aktivitu, kterou od roku 2018 vyvíjí tzv. High-Level Expert Group on AI (HLEG) či v roce 2020 online probíhající veřejnou konzultaci spojenou se zveřejněním tzv. Bílé knihy o umělé inteligenci.
Návrh poměrně otevřeně vychází z Nařízení o ochraně osobních údajů (GDPR), jemuž se koneckonců blíží jak zaměřením, tak s navrženými 85 články částečně i rozsahem.
Jako žádoucí přístup je zvolena regulace pouze tzv. vysoce rizikových AI systémů. Spadají sem kategorie specifikovaných v příloze návrhu:
Navrhuje se stanovit požadavky na:
data, jejich vysokou kvalitu, nezaujatost a reprezentativnost
dokumentovatelnost a sledovatelnost (zde AI systému, nikoliv lidí)
poskytování informací (ohledně fungování systémů ale i například informace, že člověk jedná s AI systémem)
transparentnost
dohled člověka, který má mít vždy poslední slovo
přesnost, robustnost a kyberbezpečnost
vnitřní systém řízení kvality
Má být zakázáno uvádět na trh či využívat takové AI systémy, které:
S výjimkami se navrhuje též zakázat biometrické sledovací AI systémy působící v reálném čase.
Ač se dá výše uvedené často dovodit již ze současných evropských předpisů, jedná se právě o reálná využití AI systémů v některých zemích světa, vůči kterým pravděpodobně Komise cítila potřebu se výslovně vymezit.
Poskytovatelům AI systémů s nižší mírou rizika se nabízí možnost řídit se dobrovolnými etickými kodexy. Všechny největší společnosti využívající AI již koneckonců své vlastní etické kodexy mají.
Jako vhodný nástroj pro výzkum a vývoj AI se dlouhodobě jeví tzv. sandboxy, tedy státem kontrolovaná prostředí, ve kterých mohou poskytovatelé své systémy bezpečně vyvíjet a testovat.
Navrhuje se zřídit Evropský sbor pro umělou inteligenci jako hlavní dozorový orgán.
Státy pak mají určit příslušné národní úřady pro plnění povinností (například notifikačních a certifikačních) ze stran poskytovatelů.
Zavedena by měla být také celoevropská databáze pro povinnou registraci vysoce rizikových AI systémů.
Co návrh nařízení překvapivě neřeší? Povinné pojištění, které se přinejmenším pro vysoce rizikové AI systémy očekává.
Výše uvedené je pouhým "teaserem" více než stostránkového dokumentu, který ještě navíc čeká legislativní proces. Pro zájemce o právní regulaci AI můžeme doporučit monografii Umělá inteligence a právo a samozřejmě náš blog, kde se brzy dozvíte více.