Deep­fakes: jak se bránit dig­itál­ním podvodům

Tech­nolo­gie deep­fake je mod­erní a pokročilá meto­da, která slouží k vytváření real­i­stick­ých dig­itál­ních falz­i­fikátů – konkrét­ně obrázků a videí – za pomo­ci umělé inteligence, jako je hluboké a stro­jové učení. 

Deep­fake je kom­bi­nací slov ​„deep learn­ing“ (hluboké učení) a ​„fake“ (falešný). Hluboké učení je tech­ni­ka v oblasti umělé inteligence, která využívá neu­ronové sítě k analýze a gen­erování dat. Pomocí této tech­nolo­gie je možné vytvořit videa a obrázky, které na první pohled vypada­jí aut­enticky, ale ve skutečnos­ti jsou zcela falešné. 

Deep­fake videa jsou čas­to vytvoře­na s cílem manip­ulo­vat veře­jným míněním, šířit dez­in­for­ma­ce nebo poškodit pověst jed­notlivců, začí­na­jící se i obje­vat pří­pady šikany, které jsou z řad školáků, kteří použí­va­jí deep­fake obrázky svých spolužáků. 

Tato tech­nolo­gie se rych­le vyvíjí a stává se stále dos­tup­nější, což zna­mená, že je stále obtížnější rozpoz­nat, co je prav­da a co je falešné. 

Pro­ces tvor­by deep­fake začíná sběrem velkého množství dat, obvyk­le obrázků a videí cílové oso­by. Tyto data jsou poté použi­ty k trénování neu­ronové sítě, která se učí rozpozná­vat a rep­liko­vat speci­fické rysy a pohy­by dané oso­by. Po dostatečném tréninku je neu­ronová síť schop­na gen­erovat nové obrázky nebo videa, kde cílová oso­ba vykonává čin­nos­ti, které ve skutečnos­ti nikdy neprovedla. 

Jed­ním z nejčastěji použí­vaných nástro­jů pro tvor­bu deep­fake videí jsou Gen­er­a­tive Adver­sar­i­al Net­works (GANs), které jsou tvoře­ny ze dvou neu­ronových sítí: 

• gen­erá­toru – vytváří falešné obrázky a videa, 

• diskrim­iná­toru – rozpoznává, které z nich jsou falešné. 
  Ten­to pro­ces pokraču­je, dokud gen­erá­tor nepro­duku­je nato­lik real­i­stické výsled­ky, že diskrim­iná­tor nedokáže rozlišit skutečná data od falešných. 
  Exis­tu­jí ovšem i pro­gramy vol­ně dos­tup­né ke stažení, které využí­va­jí tře­ba již zmiňo­vaní školá­ci. Stačí, aby nahráli fotku a upřes­nili, co se s ní má stát. 

Ačkoli tech­nolo­gie deep­fake je vysoce pokročilá, exis­tu­je něko­lik možnos­tí a nástro­jů, jak odhalit falešné videa a obrázky: 

• Analýza detailů obrazu: Deep­fake videa čas­to obsahu­jí drob­né nes­rov­nalosti, které lze odhalit pečlivým zkoumáním. 

  „To může zahrnovat neob­vyk­lé blikání očí, nepřirozeně dlouhé inter­valy mezi mrkáním, nesprávně vykreslené stíny nebo nesprávné pohy­by rtů syn­chro­ni­zo­vané s mlu­veným slovem. Čas­to chy­bí i mimi­ka ve tváři. Největší výzvou jsou pro AI prsty na ruk­ou – čas­to je generu­je pokřivené nebo ve špat­ném poč­tu,“ uvádí Šte­fan Tus­jak, lek­tor Python Akademie v ENGE­TO. 

• Kon­tro­la zdro­jů: Když narazíte na podezřelé video nebo obrázek, zkon­trolu­jte, jestli pochází z důvěry­hod­ného zdro­je. Mno­hé falešné mater­iá­ly pocháze­jí z neznámých nebo pochyb­ných zdrojů. 
  

• Použití foren­zních nástro­jů: Exis­tu­jí speciál­ní soft­warové nástro­je, které mohou ana­ly­zo­vat dig­itál­ní média a iden­ti­fiko­vat známky manip­u­lace. Tyto nástro­je zkouma­jí meta­da­ta souborů, kom­pres­ní arte­fak­ty a další tech­nické detaily. 
  

• Využití umělé inteligence: Iron­icky, AI může být použi­ta k boji pro­ti deep­fake. Něk­teré pokročilé algo­rit­my umělé inteligence umí deteko­vat deep­fake média s vysok­ou přes­nos­tí tím, že ana­lyzu­jí jem­né nes­rov­nalosti, které lid­ské oko nemusí zachytit. 
  

• Vzdělávání a pově­domí: Jed­nou z nejdůležitějších strate­gií je vzdělávání veře­jnos­ti o exis­ten­ci a riz­icích deep­fake tech­nologií. Čím více budou lidé infor­mováni, tím lépe budou schop­ni dig­itál­ní pod­vody rozpoz­nat a ubránit se jim.