Právní regulace umělé inteligence? Evropský parlament udělal první krok

6 měsíce starý 24

Očekávaný akt Evropské unie o regulaci umělé inteligence (AI) bude prvním komplexním právním předpisem na světě, který bude tyto hodně propírané technologie upravovat. Poslanci Evropského parlamentu (EP) se ve čtvrtek přiblížili jeho přijetí.

Členové Výboru pro vnitřní trh a Výboru pro občanské svobody schválili návrh legislativního předpisu, pro se vyslovilo 87 členů. Sedm jich bylo proti a 12 se zdrželo hlasování. Návrh předložila Evropská komise již v dubnu 2021 a Rada EU se k němu – po dílčích úpravách – kladně postavila loni v prosinci.

Cílem návrhu, do nějž je možné nahlédnout na webových stránkách EP, je podle předkladatelů snaha zajistit „etický a na člověka zaměřený rozvoj AI v Evropské unii“. A zabránit rizikům, které z rychlého rozvoje technologie plynou.

Základem nově utvořených pravidel bude podle Evropské komise navrhnout jednotnou definici složitých algoritmických systémů, označovaných jako umělá inteligence. Aby došlo k odlišení AI od jednodušších softwarových systémů, Komise tuto definici zúžila na „systémy vyvinuté pomocí přístupů strojového učení a přístupů založených na logice a znalostech“.

Toto hlasování je milníkem v regulaci umělé inteligence a jasným signálem EP, že základním kamenem regulací by měla být základní práva. AI by měla sloužit lidem, společnosti a životnímu prostředí, nikoli naopak.

EU také podle prohlášení chce cílit na „zajištění bezpečnosti, transparentnosti, stejně jako na prevenci diskriminace nebo ohleduplnost k životnímu prostředí“.

Plénum Evropského parlamentu přijme svůj postoj k legislativě na zasedání v červnu, informoval web Euractiv. Poté vstoupí návrh do poslední fáze legislativního procesu, kdy začnou jednání s Radou EU, tedy představiteli vlád jednotlivých států, a Evropskou komisí.

Zákaz technologie rozpoznávání obličejů

Komise navrhla klasifikovat nástroje tohoto typu na základě jejich míry rizika, a to od nízkého po nepřijatelné. Vlády a společnosti, které tyto nástroje používají, budou mít v závislosti na míře rizika různé povinnosti.

Rizikové technologie, které evropské úřady vyhodnotí jako nepřijatelné, budou zakázané. Mezi ně patří ty, které používají manipulativní taktiky, využívají zranitelnosti lidí nebo se používají k měření sociálního skóre uživatelů, ať už na základě jejich chování, socioekonomického statusu, nebo osobních charakteristik.

Při čtvrtečním hlasování se europoslanci ve výboru shodli na zákazu používání rozpoznávání obličejů na veřejných prostranstvích. Přejí si také zákaz prediktivních policejních nástrojů, které by mohly lidi profilovat.

Rovněž chtějí zavedení nových opatření pro transparentnost aplikací, jako je ChatGPT společnosti OpenAI. Mnoho požadavků na vysoce rizikové nástroje AI bylo podle Rady EU vyjasněno a upraveno tak, aby jejich plnění bylo pro zúčastněné strany technicky proveditelnější a méně zatěžující.

Umělá inteligence

Umělá inteligence je stále více přítomná ve všech aspektech našich životů. Je zároveň ve fázi vývoje, kdy investorům nabízí jedinečné příležitosti díky optimistickým vyhlídkám pro celý tento obor. Přečtěte si analýzu Seznam Zpráv.

Na seznam vysoce rizikových AI europoslanci také přidali nástroje, které jsou schopny ovlivňovat voliče v politických kampaních, stejně jako ty používané k doporučování příspěvků platformami sociálních médií.

Kromě toho by podle členů příslušných výborů v Evropském parlamentu poskytovatelé služeb AI měli splňovat povinnosti týkající se bezpečnosti, zdraví a dodržování zákonů a měli by služby zaregistrovat v databázi EU.

„Jsme na pokraji vytvoření skutečně přelomového právního předpisu pro digitální prostředí, a to nejen pro Evropu, ale i pro celý svět,“ řekl Brando Benifei, jeden z předkladatelů návrhu.

Kompromis levice a pravice

Autoři návrhu právního rámce dohodu považují za delikátní, ale věří, že na své si přišla každá strana, která se jednání účastnila. Tak se alespoň vyjádřil Dragos Tudorache, jeden z poslanců EP pověřených přípravou právního rámce.

S ním souhlasila i německá europoslankyně Svenja Hahnová. Ta agentuře Reuters řekla, že jednání donutilo konzervativní a levicové europoslance sejít se na půli cesty. „Podařilo se nám najít kompromis, který by reguloval umělou inteligenci přiměřeně, chránil občanská práva a podpořil inovace a ekonomiku,“ uvedla.

Hrozby AI

„Neměli bychom se bát, že nám umělá inteligence vezme práci, přínosy pro produktivitu prý budou významnější,“ myslí si Michael Schwarz, hlavní ekonom Microsoftu. Větší škody podle něj napáchá zneužívání AI podvodníky a manipulátory.

„Toto hlasování je milníkem v regulaci umělé inteligence a jasným signálem EP, že základním kamenem regulací by měla být základní práva. AI by měla sloužit lidem, společnosti a životnímu prostředí, nikoli naopak,“ vysvětlil agentuře Reuters poslanec Evropského parlamentu za Zelené Kim van Sparrentak.

Po nutnosti regulace umělé inteligence volá řada států

Řada států volá po nutnosti regulace umělé inteligence na národní i mezinárodní úrovni. Na začátku dubna Itálie jako první na světě zakázala používání chatovacího robota ChatGPT kvůli obavám z porušování ochrany osobních údajů.

Ke konci dubna italská vláda používání ChatGPT opět povolila. Italský úřad pro ochranu osobních údajů pro obnovení provozu systému například požadoval, aby firma na svých internetových stránkách zobrazovala upozornění, v němž vysvětlí metody a logiku zpracování údajů.

Řešit rizika související s umělou inteligencí začal také britský úřad pro hospodářskou soutěž.

In a stunning reversal, Italy restored ChatGPT - and Italy’s PM met a robot (no joke).

OpenAI complied with a series of changes they were given only 20 days to act on, including: form to remove users' data, stricter age verification, adding articles on how ChatGPT collects data. pic.twitter.com/400jeZYVRL

— Project Counsel Media (@ProjectCounsel) May 2, 2023

Francouzský parlament schválil v březnu kontroverzní novelu zákona o používání AI k bezpečnostnímu monitoringu v souvislosti s letními olympijskými hrami, které se budou konat v roce 2024 v Paříži.

Zdaleka to ale nejsou jediné země, které se těmito otázkami zabývají. O nutnosti regulace AI se mluví i ve Španělsku, Irsku, Austrálii nebo Japonsku.

A došlo i na konkrétní jednotlivce, kterým se rychlost vývoje umělé inteligence nezdá. Více než tisícovka akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence včetně miliardáře Elona Muska v otevřeném dopise, který v březnu zveřejnila nezisková organizace Future of Life, volala po nejméně půlročním pozastavení vývoje nových modelů s ohledem na „hluboká rizika pro společnost a lidstvo“.

Zdroj