Deepfake je video, zvuk alebo fotografia vytvorená alebo upravená pomocou strojového učenia tak, aby presvedčivo napodobnila konkrétneho človeka - jeho tvár, hlas aj gestá. Ešte pred pár rokmi šlo o technológiu dostupnú úzkej skupine odborníkov. Dnes na zvládnutie hlasovej napodobeniny stačí krátka nahrávka a bežne dostupný nástroj.
Rozpoznávanie manipulovaného obsahu a overovanie jeho pôvodu je jednou z disciplín, ktoré pokrýva OSINT.
Prečo sa téma týka aj bežných firiem
Verejná diskusia sa sústreďuje na dezinformácie a poškodzovanie reputácie verejných osobností. V praxi je však najčastejším a najkonkrétnejším rizikom podvod pri platbách.
Schéma je jednoduchá. Útočník si vopred naštuduje štruktúru firmy z verejných zdrojov - vedenie, oddelenia, prebiehajúce projekty. Potom kontaktuje zamestnanca na finančnom oddelení telefonátom, v ktorom počuje hlas svojho nadriadeného. Ten žiada urýchlenú úhradu, odvoláva sa na dôvernú transakciu a naliehanie odôvodňuje časovou tiesňou. Hlas sedí, kontext sedí, tlak funguje.
Existujú aj prípady, keď útočníci takto zvládli celú videokonferenciu s viacerými „účastníkmi". Obranou preto nie je lepší sluch, ale proces: pri platbách nad stanovenú sumu musí platiť overenie druhým, vopred dohodnutým kanálom - spätným telefonátom na známe číslo, nie na to, z ktorého prišla požiadavka.
Ako deepfake rozpoznať
Pri videu si všímajte detaily, ktoré generatívne modely stále zvládajú horšie:
- Okraje tváre, najmä prechod medzi tvárou a vlasmi alebo bradou - hľadajte rozmazanie či mierne „plávanie" hraníc.
- Zuby a oči - zuby bývajú neostré alebo nezreteľne oddelené, odlesky v očiach nemusia zodpovedať osvetleniu scény.
- Nesúlad medzi zvukom a pohybom pier, najmä pri sykavkách a hláskach vyžadujúcich zovretie pier.
- Osvetlenie a tiene na tvári nezodpovedajú prostrediu, v ktorom sa človek nachádza.
- Neprirodzený rytmus žmurkania alebo úplná absencia žmurkania v dlhšom zábere.
- Ruky a prsty - pri pohybe cez tvár vznikajú artefakty.
- Šperky, okuliare a náušnice, ktoré počas záberu menia tvar alebo blikajú.
Pri zvukových nahrávkach je vodidlom najmä chýbajúca prirodzená prozódia: reč má rovnomerné tempo, chýbajú nádychy, zaváhania a bežné rečové chyby. Pozadie býva podozrivo čisté alebo naopak konštantné bez zmien.
Tieto vodidlá však postupne strácajú spoľahlivosť. Berte ich ako indície, nie ako dôkaz - a nikdy nie ako jediný podklad pre rozhodnutie.
Overujte pôvod, nie iba vzhľad
Pri posudzovaní podozrivého materiálu býva účinnejšie skúmať jeho pôvod než samotný obraz.
- Zistite, kde sa nahrávka objavila prvýkrát a kto ju zverejnil. Materiál bez dohľadateľného pôvodu je sám o sebe varovným signálom.
- Použite spätné vyhľadávanie obrázkov na kľúčové snímky. Často sa ukáže, že ide o starší, prestrihnutý alebo inak upravený záznam.
- Porovnajte tvrdenie s nezávislými zdrojmi. Ak by udalosť bola skutočná, zachytil by ju viac než jeden zdroj.
- Všímajte si kontext šírenia - novovzniknuté účty, koordinované zdieľanie a načasovanie tesne pred rozhodnutím, ktoré má obsah ovplyvniť.
- Pri fotografiách skontrolujte metadáta, ak sa zachovali. Sociálne siete ich väčšinou odstraňujú, no pri origináloch bývajú užitočné.
Postupne sa presadzuje aj označovanie pôvodu priamo v súbore - normy ako C2PA umožňujú pripojiť k obsahu overiteľnú históriu jeho vzniku a úprav. Zatiaľ ide o doplnok, nie o všeobecne dostupný nástroj.
Riziká nad rámec podvodov
Deepfakes sa využívajú aj na vydieranie, poškodzovanie reputácie a nátlak. Osobitne závažnou formou je vytváranie intímneho obsahu bez súhlasu zobrazenej osoby - obeť pritom nemá ako preukázať, že materiál nie je skutočný, a odstraňovanie kópií z internetu je zdĺhavé.
Pri firmách sa objavuje aj obrátený problém, takzvaná dividenda klamára. Keď verejnosť vie, že falzifikáty existujú, dá sa pravý záznam spochybniť tvrdením, že ide o deepfake. Existencia technológie tak oslabuje dôveryhodnosť aj autentických dôkazov.
Čo robiť, ak sa deepfake týka vás
Nezačínajte tým, že obsah budete hromadne vyvracať v diskusiách - tým sa spravidla len rozšíri jeho dosah.
Najprv materiál zdokumentujte: uložte odkazy, snímky obrazovky s viditeľným dátumom, názvy účtov, ktoré ho šíria, a časy zverejnenia. Tieto podklady sú neskôr potrebné pri nahlasovaní aj pri prípadnom právnom postupe.
Následne obsah nahláste platforme, kde je zverejnený. Väčšina sietí má osobitný postup pre napodobeniny a pre intímny obsah zverejnený bez súhlasu, ktorý býva rýchlejší než bežné nahlásenie.
Ak sa materiál týka firmy alebo verejne známej osoby, pripravte si stručné a vecné stanovisko a zverejnite ho na vlastnom kanáli. Cieľom nie je presvedčiť tých, ktorí falzifikát šíria, ale poskytnúť overiteľný zdroj pravdivej verzie tým, ktorí ju budú hľadať.
Potrebujete sa v tejto téme zorientovať?
Školenie na mieru, preverenie rizika alebo konzultácia - ozveme sa hneď, ako to bude možné.