Papadopoulos: Falošné videá a fotografie onedlho už pohľadom neodhalíme

„V súčasnosti to ešte možno do istej miery rozlíšiť, napríklad pohľadom do obrazu, pretože syntetické médiá majú určitú estetiku alebo niektoré drobné detaily, ktoré stále môžete rozlíšiť,“ povedal v rozhovore pre TASR vedúci skupiny MeVer na gréckom Informačnom technologickom inštitúte Centra pre výskum a technológie Hellas (CERTH) Symeon Papadopoulos.

Priznáva, že niektoré súčasné deepfakes sú veľmi uveriteľné. „Na Instagrame je napríklad vytvorený účet s vysokokvalitnými deepfakes Toma Cruisa. Používajú herca, ktorý sa na neho podobá, a robia veľa postprocessingu. Na prvý pohľad by nikto nepovedal, že to nie je Tom Cruise,“ poznamenal Papadopoulos. Iné prípady sa dajú podľa neho odhaliť ľahšie vzhľadom na nízku kvalitu či zlý zvuk, ktoré napovedajú, že obsah nemožno považovať za dôveryhodný.

Upozornil preto, že sociálne médiá majú veľkú zodpovednosť. „Myslím si však, že ich to vôbec nezaujíma, pretože chcú maximalizovať zisky z reklamy a zapojenie používateľov. Keď majú tento cieľ, všetko ostatné sa stáva druhoradým,“ poznamenal pre TASR Papadopoulos. Neočakáva, že sociálne médiá prijmú reálne opatrenia na zabránenie šíreniu dezinformácií. „Musia to pritom kontrolovať práve platformy, majú na to zdroje aj odborné znalosti, alebo by mohli spolupracovať s výskumníkmi. Bolo by to pre ne jednoduché, ale nebolo by to ziskové,“ doplnil.

Za syntetické médiá sa považuje digitálny obsah, ktorý je vytvorený alebo upravený pomocou AI a technológií strojového učenia. „Keď sa pozriete, aké boli syntetické médiá pred dvoma, troma rokmi a aké sú v súčasnosti, rýchlo pochopíte, že za pár rokov to nebude možné rozlíšiť len tak, keď sa na ne pozriete,“ skonštatoval Papadopoulos. Pri odhaľovaní manipulácie s obsahom môžu podľa jeho slov pomôcť nielen overovanie faktov a kontextu, ale aj rôzne nástroje založené na umelej inteligencii, hoci aj tie majú svoje obmedzenia.

Myslí si, že overovanie faktov aj prácu novinárov môže komplikovať to, že okolo jednej udalosti či osoby vznikne viacero syntetických médií. „Môžu vytvárať dojem, že sa niečo naozaj deje. Osoba bude vyobrazená z viacerých uhlov pohľadu syntetickej reality, nejde iba o jeden obrázok či video. To môže pre novinárov predstavovať veľmi náročný problém,“ uzavrel.

Odborníci z CERTH budú aj s ďalšími európskymi expertmi spolupracovať so slovenským Kempelenovým inštitútom inteligentných technológií (KInIT) v projekte lorAI - Low Resource AI podporenom v grantovom programe Horizon Europe. Šesťročný projekt má inštitút pozdvihnúť na centrum excelentnosti v oblasti AI, prepojiť akademickú sféru s biznisom a priniesť pokrok vo vývoji jazykových modelov pre slovenčinu.