před 1 měsíc
39
Londýn - Svět letos čeká na pět desítek volebních klání, ve kterých patrně bude možné sledovat šíření dezinformací s využitím umělé inteligence (AI), která se rozvíjí závratnou rychlostí. Prakticky kdokoli s nekalými úmysly vybavený chytrým telefonem může snadno stvořit příspěvek, který oklame voliče. Zvláště nebezpečné budou takzvané deepfakes, tedy uměle vytvořené nebo zmanipulované obrázky, zvukové nahrávky nebo videa, píše agentura AP.
Zatímco ještě před několika lety pracovaly na vytvoření obsahu schopného zmást lidi týmy technicky zdatných tvůrců disponujících časem i penězi, po obrovském skoku AI to dnes může udělat prakticky kdokoliv.
"Nemusíte se rozhlížet dlouho, abyste viděli, že někteří lidé jsou opravdu zmatení, jestli je něco skutečné či ne," řekl expert na generativní AI z britské Cambridge Henry Ajder. Otázkou už podle něj není, zda umělá inteligence ovlivní volby, ale do jaké míry je ovlivní.
Letos půjdou k urnám voliči například ve Spojených státech, Británii či Indii, Evropané budou vybírat poslance Evropského parlamentu. Šéf amerického Federálního úřadu pro vyšetřování (FBI) Christopher Wray nedávno upozornil na zvyšující se riziko, že se do voleb budou pomocí AI snažit zasáhnout "zahraniční protivníci" USA.
Varováním pro letošní volby mohou být hlasování z nedávné doby, při nichž se objevily zásahy ve snaze poškodit nějakého kandidáta či pomoci dalšímu. Stalo se to v tak odlišných zemích jako na Slovensku, v Moldavsku či v Bangladéši.
Na Slovensku kolovala před loňskými parlamentními volbami po internetu audionahrávka, v níž domnělý hlas vůdce proevropských liberálů hovořil o manipulacích s hlasy či o zdražování piva. V Moldavsku zase prozápadní prezidentka Maia Sanduová na zmanipulovaném videu vyjadřovala podporu proruské straně a oznamovala plány na svou rezignaci. V Bangladéši, konzervativní muslimské zemi, pak jedna z opozičních poslankyň nosila na deepfake videu pobuřující bikiny.
Podle expertů je nejen čím dál jednodušší falešné snímky či nahrávky vyrobit, ale i čím dál těžší zjistit, kdo za nimi skutečně stojí. Moldavské úřady se například domnívají, že jsou AI manipulace dílem Ruska s cílem nejen poškodit k Západu se klonící prezidentku. Podle její poradkyně Olgy Roscaové mají "narušit důvěru v náš volební proces, v kandidáty a v instituce".
Vedle Ruska, které je evropskými zeměmi často označováno za původce dezinformační akcí, se za nimi podle mnohých skrývá také Čína. Například na Tchaj-wanu, který Čína považuje za své území, kolovalo video ukazující jednoho z amerických zákonodárců, jak slibuje ostrovu větší vojenskou podporu, pokud ve volbách uspějí kandidáti strany prosazující tchajwanskou suverenitu.
Obtížněji odhalitelné než fotografie či videa jsou podle některých expertů audionahrávky, jako byla ta na Slovensku, další zemi ve stínu ruského vlivu. Podle Ajdera to je pochopitelné, neboť lidé jsou daleko více navyklí "soudit s pomocí svých očí než uší".
Jako první se proti možnému dezinformačnímu využívání umělé inteligence rozhodla zasáhnout Evropská unie, jejíž nová pravidla nařizují viditelné označování deepfakes na sociálních sítích. Platit však začnou až příští rok, tedy po evropských volbách.
Některé sociální sítě jako Facebook se již samy dobrovolně přihlásily k tomu, že budou na sofistikované manipulace s obsahem upozorňovat. Deepfakes se však hůře odhalují na chatovacích platformách jako je Telegram, který závazek k jejich odhalování nemá.
