Co je Akt EU o umělé inteligenci?
Akt o umělé inteligenci je prvním komplexním pokusem regulovat AI technologie na úrovni celého kontinentu. Jeho hlavním cílem je minimalizovat rizika spojená s umělou inteligencí a aby systémy AI byly bezpečné, transparentní, sledovatelné, nediskriminační a šetrné k životnímu prostředí. Zároveň má podporovat inovace a rozvoj této technologie. Toho chce dosáhnout prostřednictvím zavedení různých úrovní rizika, které určují, jaké požadavky musí jednotlivé AI systémy splňovat.
Úrovně rizika v Aktu o umělé inteligenci
Akt rozděluje AI systémy do čtyř úrovní podle jejich rizikovosti:
- Nepřijatelné riziko
- Vysoké riziko
- Omezené riziko
- Minimální riziko
Každá z těchto úrovní má specifické požadavky na vývojáře a provozovatele AI systémů. Pojďme se na ně podívat postupně od minimální rizika až po nepřijatelné riziko.
Minimální riziko
Do této kategorie spadají systémy s nízkým nebo žádným rizikem, jako jsou AI systémy pro filtraci spamu nebo doporučování filmů. Na tyto systémy se vztahují minimální regulační požadavky, což podporuje jejich široké využívání a inovaci.
Omezené riziko
Systémy s omezeným rizikem podléhají méně přísným regulacím, ale stále musí splňovat určité požadavky. Zde jde hlavně o zajištění transparentnosti a ochranu uživatelských práv.
Příkladem jsou chatboty, které musí jasně informovat uživatele, že komunikují s AI a ne s člověkem. Dalším příkladem může být informování o tom, že byl text, obrázek, či jakýkoliv audiovizuální obsah vygenerován za pomoci umělé inteligence.
Vysoké riziko
Tato kategorie zahrnuje AI systémy, které mohou mít významný dopad na životy lidí, a proto podléhají přísné regulaci. Patří sem například AI používaná ve zdravotnictví, energetice, dopravě, nebo při náboru zaměstnanců.
Tyto systémy musí splňovat přísné požadavky na transparentnost, bezpečnost, a především je zde důraz na lidský dohled. Například autonomní vozidla musí být testována a certifikována, aby byla zajištěna jejich bezpečnost na silnicích.
Nepřijatelné riziko
Systémy v této kategorii jsou považovány za tak nebezpečné, že jsou zcela zakázány. Příkladem může být AI používaná pro „sociální kreditní systém“ podobný tomu v Číně, který diskriminuje občany na základě jejich chování. Stejně tak je zakázána AI, která by třídila lidi podle rasy, víry, pohlaví, volebních preferencí apod.
V této kategorii však budou jisté výjimky. Mezi ty se řadí například pátrání po ztracených dětech, kdy bude umožněno monitorování lidí a jejich identifikace v rámci policejního dohledu. Dalšími výjimkami pak budou situace spojené s válkou, obranou či národní bezpečností.
Koho se Akt EU o umělé inteligenci týká?
Akt EU o umělé inteligenci se vztahuje na širokou škálu subjektů, a to jak z veřejného, tak ze soukromého sektoru. Mezi hlavní cílové skupiny patří:
Vývojáři a dodavatelé systémů AI
Ti budou muset zajistit, aby jejich systémy splňovaly požadavky AI Aktu, a to v závislosti na jejich kategorii rizika. To zahrnuje implementaci technických a organizačních opatření, jako je testování, dokumentace a zavedení robustních bezpečnostních opatření.
Uživatelé systémů AI
Ti mají právo na informace o tom, jak systémy AI fungují a jaká data používají. Mohou také požadovat, aby jejich data byla vymazána nebo aby jim byl odmítnut přístup k výsledkům generovaným systémy AI v určitých případech.
Když to tedy zjednodušíme, tak se Akt EU o umělé inteligenci týká všech.
Je důležité poznamenat, že AI Akt se nevztahuje na systémy AI používané výhradně pro soukromé účely fyzickými osobami. Například pokud používáte software pro rozpoznávání obličeje k zabezpečení svého domova, Akt se na vás nevztahuje.
Jak bude regulace fungovat v praxi?
Implementace Aktu o umělé inteligenci bude probíhat prostřednictvím národních regulačních orgánů, které budou zodpovědné za dohled nad dodržováním pravidel. Vývojáři a provozovatelé AI systémů budou muset předložit dokumentaci a důkazy o tom, že jejich systémy splňují příslušné požadavky. V případě vysokorizikových systémů bude třeba získat certifikaci ještě před jejich uvedením na trh.
Celý systém lze tedy rozdělit do těchto základních kroků:
- Posouzení souladu: Nejdříve musí vývojáři a poskytovatelé AI s vysokým rizikem prokázat, že jejich AI splňuje všechny požadavky stanovené Aktem. Posouzení souladu musí být provedeno před uvedením AI na trh nebo do provozu.
- Registrace AI: Poté je nutné svou AI zaregistrovat do veřejné databáze, kterou spravuje Evropská komise. Registrace AI musí obsahovat informace o identitě subjektu, účelu AI, kategorii rizika a výsledku posouzení souladu.
- Dohled a kontrola: Na závěr bude probíhat dohled a kontrolní orgány, které jsou určeny členskými státy, monitorují a kontrolují dodržování pravidel pro AI. Orgány dohledu a kontrolní orgány budou provádět inspekce, testy, audity, vyšetřování a udělovat sankce v případě porušení Aktu.
Jaký je dopad Aktu EU o umělé inteligenci na vývojáře a uživatele AI?
Akt EU o umělé inteligenci má za cíl podpořit důvěru a inovaci v oblasti AI, a zároveň chránit práva a zájmy lidí a společnosti. Akt přináší některé výhody, ale také některé výzvy pro vývojáře a uživatele AI.
Výhody
Akt EU o umělé inteligenci může pomoci vývojářům a uživatelům AI zlepšit kvalitu, spolehlivost a bezpečnost svých AI aplikací, zvýšit transparentnost a odpovědnost za jejich AI rozhodování, získat důvěru a loajalitu svých zákazníků a uživatelů, a využít příležitostí na jednotném evropském trhu pro AI.
Výzvy
Akt EU o umělé inteligenci může také představovat některé výzvy pro vývojáře a uživatele AI, jako jsou zvýšené náklady, čas a zdroje potřebné pro splnění požadavků na AI, riziko právní nejistoty nebo nekonzistence v interpretaci a uplatňování pravidel pro AI, nebo potenciální omezení kreativity a inovace v oblasti AI.
Závěr
Akt EU o umělé inteligenci představuje důležitý milník v regulaci AI technologií. Zavádí jasné a strukturované požadavky na různé typy AI systémů, což přispívá k jejich bezpečnému a etickému využívání. Přestože implementace těchto pravidel bude vyžadovat úsilí, přinese to dlouhodobé výhody jak pro uživatele, tak pro vývojáře AI. Evropská unie se tak stává průkopníkem v oblasti regulace AI, což může sloužit jako inspirace i pro další regiony světa.
Zdroje: Evropský parlament , Eur-Lex , částečně zpracováno s pomocí ChatGPT, MS Copilot a Gemini