Umělá inteligence: 13. Deepfake dezinformace

Umělá inteligence

Deepfake dezinformace

Umělou inteligenci (AI) začali ve velkém používat Palestinci a jejich podporovatelé, aby vystupňovali propagandu Hamásu proti Izraeli.

Tento nástroj využívají k vytváření tzv. deepfake dezinformací¹ formou falešných fotografií nebo grafiky, kterou vytvořili podle svých promtů – příkazů v grafických programech AI.

Poznat, že jde o obrázek vytvořený umělou inteligencí, není zatím příliš těžké. Její výtvory mají dosud charakteristické znaky, podle nichž pozorný čtenář rychle odhalí, že jde o falešný podvrh.

Zde je několik příkladů deepfake dezinformačních obrázků, vytvořených pomocí umělé inteligence, které dnes zaplavují celý internet.

Obrázky lidí, vytvořené pomocí AI, mívají například nedokonalé tvary, jako končetiny, prsty na rukou či nohou. Na obrázku výše je to docela zřejmé třeba u toho miminka v levé ruce muže. Dále v pravé části pod ramenem má muž ve svetru několik otvorů nejen pro svoji ruku, ale i pro několik dalších končetin.

Holčička se vzadu asi vznáší za tatínkem. Chlapec na pravém rameni nějak srostl s pravou rukou tatínka. Chlapeček na levém rameni má jednu ruku dlouhou.

Končetiny chlapců na zádech nedávají žádný smysl. Kluci by se na zádech takto neudrželi ani chvíli. Propletené tři paže, jedna prochází ramenem táty. Chlapeček po pravé ruce dospělého má nejspíše vykloubené své levé zapěstí, asi by ho za něj táta nedržel.

Tolik podrobné pozorování obrázku. Kolik lidí ale asi napadne, že je něco na obrázku špatně a začnou ho blíže studovat? A lidem, kteří to chtějí takhle vidět, nějaká ta noha navíc nevadí. Na první, nepozorný pohled jim toto stačí “jako potvrzení jejich pravdy”.

Tento obrázek je ještě jednoduché rozpoznat, ale výtvory umělé inteligence se budou zlepšovat, protože se rychle učí.

Zde je další falešný obrázek, vytvořený pomocí umělé inteligence:

Je to nepřirozené, ale zároveň příliš dokonalé. Perfektní kompozice, žádné rušivé prvky, jiní lidé jen jako stafáž k centrálnímu výjevu. Nic není neostré.

Podobně i tato falešná fotografie:

Doba fotografie jako důkazu skončila

Vidíme, že doba fotografie jako důkazu skončila, musíme vždy počítat s tím, že obrázek může být podvrh.

Zde je další naprosto nerealistický obrázek, vytvořený pomocí umělé inteligence:

Při takovém výbuchu by ani dítě ani „fotograf“ nepřežil. Čtenářům to patrně nevadí, protože se tato fotografie šíří internetem jako lavina.

Propaganda Palestinců a jejich podporovatelů pracuje s emocemi:

Tento obrázek získal 266 000 reakcí. Ačkoliv nejen obsahuje chyby (lžíce vznášející se ve vzduchu, deformované uši chlapce) a i scéna je na první pohled nereálná. Naštěstí to emočně odladěný pozorovatel pozná. Ale většina lidí to takto nezkoumá. Žel, následovníci Proroka jedou jen přes emoce a tak je takováto propaganda snadno zpracovává.

Další „fotografie“ vytvořená pomocí umělé inteligence prozrazuje, že jde o fake tím, že dítě má šest prstů a že neumí správně vygenerovat vlajku s trojúhelníkem (častá chyba AI), ale emotivně působí věrohodně:

Umělá inteligence nástroj teroristů?

Sledujeme-li příval takovýchto deepfake dezinformací z kuchyně Hamásu a spol., napadne nás, proč to také nedělá druhá strana, Izrael?

Proč není internet zaplavený AI obrázky zlých rozšklebených teroristů, schovavajících se za civilisty, nebo usměvavých izraelských vojáků IDF, odnášejících děti do bezpečí a podobně?

Jsou na to Izraelci příliš korektní, respektive štítí se vědomě používat lež k prosazení vlastního pohledu?

Je to jistě otázka etiky a morálky. Sdílet na internetu pravdu nebo lež.

Tato otázka se týká i provozovatelů sociálních sítí, jako je Facebook nebo X (bývalý Twitter). Těm deepfake dezinformace očividně nevadí.

Nahlásil jsem několik takovýchto falešných obrázků, které navíc podporovaly terorizmus nebo rasovou nenávist vůči Izraeli, a dostalo se mi od facebookové umělé inteligence, která plní roli cenzora, odpovědi, že obrázky neporušují zásady komunity.

„Za trest“ mi od té doby umělá inteligence dává do návrhů příspěvků násobně více takovýchto deepfake palestinských obrázků.

Lidé na Facebooku většinou nechtějí znát pravdu, ale chtějí sdílet emotivní obrázky. Je jim jedno, co se děje, oni sedí u počítače či mobilu a sbírají lajky.

A lidé? Lidé na Facebooku většinou nechtějí znát pravdu, ale chtějí sdílet emotivní obrázky. Je jim jedno, co se děje, oni sedí u počítače či mobilu a sbírají lajky.

A nakonec video, které není AI deepfake, ani ho nenatočili v reálu Palestinci s úmyslem vytvořit reál deepfake dezinformaci, ale vzniklo při demonstraci proti egyptské vládě v roce 2013. Nyní je šířeno s tím, jak dělá Hamás propagandu. Má zobrazovat oběti Izraelského bombardování Gazy, ovšem že jako oběti jsou naaranžovaní živí Palestinci. A že se jim zapomělo říct, že kamera je už zapnutá.

Poznámky:

¹ Deepfake je pokročilá manipulativní technika k šíření propagandy. Šíření dezinformací a nenávistných projevů prostřednictvím deepfakes má potenciál podkopávat základní funkce a normy demokratických systémů tím, že zasahuje do schopnosti lidí účastnit se rozhodnutí, která se jich týkají, určovat kolektivní agendy a vyjadřovat politickou vůli prostřednictvím informovaného rozhodování.

Štěpán Křivánek

Můžete také navštívit naši facebookovou stránku Baptisté – Síť víry nebo facebookovou skupinu Zpravodaj Baptisté – Síť víry