Kampaň pred slovenskými parlamentnými voľbami v roku 2023 sa zapísala do histórie a nie zo správnych dôvodov. V predvolebnom súboji zohrali po prvý raz svoju rolu deepfakes. Dva dni pred voľbami obletelo sociálne siete video s audioklipom, na ktorom je údajne známa novinárka z nezávislej spravodajskej platformy Deník N Monika Todová a šéf strany Progresívne Slovensko Michal Šimica. K falošnej konverzácii nikdy nedošlo, no aj tak sa video dostalo k tisíckam používateľov sociálnych sietí.

„Reči“ o volebnom podvode boli čistým výmyslom. Ale v krátkom videoklipe, ktorý sa stal virálnym pár dní pred slovenskými voľbami, sa o tom ozvali digitálne hlasy novinára a šéfa strany. V umelo zmanipulovanom videu, známom ako deepfake, sa objavuje statický obraz novinára a politika. Zvuková stopa je nekvalitná a neznie originálne, no ich texty sú aj v titulkoch. Obaja zainteresovaní okamžite popreli pravosť rozhovoru. Autentickosť videa potvrdilo aj niekoľko organizácií a expertov na kontrolu faktov.

Podľa skupín pre slobodu tlače sú hlboké falzifikáty týkajúce sa Todova považované za jeden z prvých príkladov technológie umelej inteligencie v EÚ, ktorá sa používa na manipuláciu vzhľadu novinára – a mohla by byť znepokojujúcou predzvesťou budúceho zneužitia takýchto nástrojov na pošpinenie a diskreditáciu médií. predajných miest.

Hoci takmer každý môže vytvárať falošné videá alebo zvukové klipy s minimálnym úsilím, rozpoznať ich nie je také jednoduché. „Ešte stále neexistuje účinný, dostupný a predovšetkým spoľahlivý nástroj na detekciu obsahu generovaného AI, od zvuku cez video až po obrázky,“ zdôrazňuje Michael Colburn, novinár a výskumník z ICJK Bellingcat. Je tiež ťažké presne určiť, ako vznikol. „Nie je možné určiť, či ho vytvoril niekto, kto ho nahral a potom použil AI na jeho dabovanie, alebo či niekto umelú inteligenciu vycvičil a potom z nej vytvoril zvukový súbor,“ dodáva dátový analytik Joseph Schlerka.

Problémom je aj sledovanie cesty hlbokého falošného videa. Skutočnosť, že sa prvýkrát začala šíriť z Telegramu, ešte viac sťažila výskum jeho pôvodu. Identifikácia pôvodného zdroja publikujúceho pasáž s absolútnou istotou je takmer nemožná. Je však zrejmé, že nahrávka mohla slúžiť dvom účelom: zdiskreditovať novinára a poskytnúť dôkazy o naratíve Kremľa, že Spojené štáty chceli zmanipulovať výsledky slovenských volieb.

Vzor útokov na ohováranie

Monika Todová, výrazná osobnosť slovenskej žurnalistiky z Denníka N, čelila očierňujúcim kampaniam už predtým. Podľa Analýza Investigatívneho centra Jána Kuciaka (ICJK), bola novinárkou najviac napadnutou v mesiacoch pred parlamentnými voľbami v septembri 2023. Hoci toto falošné video presahuje predchádzajúce taktiky, už dlho je terčom týchto útokov.

Proti Todovi sa vedie sústavná očierňovacia kampaň, do ktorej sú zapojení nielen politici, ale aj dezinformačné platformy. Neustále osočovanie, nenávistné prejavy a dokonca… monitorovanie – Tomuto musela v posledných rokoch čeliť. Často sú to politici, ktorí ho poháňajú, a to aj na svojich tlačových konferenciách. Navyše sa stal obeťou deepfakes, čo by mohol byť úplne nový nástroj pre budúce osočujúce kampane. Novinár tak už urobil prijaté Boli podniknuté právne kroky a za pomoci ochrannej platformy Safe.Journalism.SK som podal trestné oznámenie – pre podozrenie z ohovárania a trestného činu poškodzovania cudzích práv.

Toto deepfake video však mohlo slúžiť aj inému účelu — zapadá do naratívu Kremľa, že Spojené štáty chcú zmanipulovať výsledky slovenských volieb. Video bolo zverejnené pár dní pred tým, ako Slováci išli voliť, aktívne sa šírilo na sociálnych sieťach a v emailoch. Najúspešnejšími ľuďmi, ktorí falošné video zdieľali na sociálnych sieťach, boli politici: bývalý šéf Najvyššieho súdu, bývalý minister Štefan Harabin a bývalý poslanec Petr Marčič. Obaja sú silnými zástancami prokremeľských pozícií a propagandy v krajine. Sám Marsič navštívil Krym, ktorý anektoval v roku 2018.

Zistenia ICJK ukazujú, že falošné video sa najskôr po zverejnení rozšírilo predplatiteľ Telegramovým účtom Štefana Harabina. Poslal ho však zo skrytého súkromného účtu pod názvom „Jabeca Ha“. Účet bývalého ministra spravodlivosti nezdieľal obsah tohto používateľa náhodou. Urobil to najmenej 27-krát. Okrem toho analýza obsahu účtu ukazuje, že osoba používajúca účet „Jabica Ha“ musela osobne sprevádzať bývalého ministra spravodlivosti na Salamandrových dňoch v Banskej Štiavnici začiatkom septembra 2023. Na otázku, či by profil mohol byť Harabin v spojení s manželkou Gabrielou (skrátene Gabeka) Harabinovou, menom podobným „Gabika Ha“, zavesil na reportéra ICJK.

Hoci sa pôvodne objavilo na Telegrame, vymyslené video sa prostredníctvom Facebooku rozšírilo medzi desaťtisíce používateľov. Podľa overovateľa faktov AFP Roberta Barca, ktorý informácie na slovenskom Facebooku overuje, sa šírili najmä cez osobné účty, „ako najrozšírenejší falošný obsah na Facebooku“. Najúspešnejšou pozíciou sa podľa Barcelony stal bývalý poslanec Národnej rady Petr Marsič.

Stojí za zmienku, že vzhľad hlbokého falošného videa zahŕňajúceho Tudovu a Simicu sa zhodoval s tlačová správa Ruská spravodajská agentúra krátko predtým, ako sa objavilo video, zverejnila SVR, v ktorej tvrdí, že USA sa podieľali na ovplyvňovaní výsledkov slovenských volieb. Šéf ruskej zahraničnej rozviedky Sergej Naryškin obvinil Spojené štáty z vydávania pokynov svojim spojencom, aby spolupracovali s podnikateľskými a politickými kruhmi „na zabezpečenie výsledkov hlasovania požadovaných Spojenými štátmi“, najmä s cieľom „víťazstva ich splnomocnenca, Slovenská progresívna liberálna strana (…).“ Tlačová správa sa odvolávala aj na predsedu strany Michala Šimeku.

V noci pred voľbami 29. septembra sa slovenské voľby stali stredobodom spravodajstva ruskej štátnej televízie Rossija 1. správa Primárny dôraz bol kladený na možné zasahovanie USA do výsledkov slovenských volieb. Práve Štefan Harabin túto teóriu zopakoval na kameru a podľa záberov ako jediný poskytol rozhovor ruskej propagandistickej televízii.

Pokiaľ orgány činné v trestnom konaní na Slovensku nebudú schopné presne určiť zdroj dezinformačného útoku, konečný motív deepfake sa nikdy nepodarí určiť. Keďže sa však používanie nástrojov AI v nasledujúcich rokoch stáva dostupnejším, pravdepodobnosť podobných osočovacích útokov a dezinformačných kampaní poháňaných umelou inteligenciou by sa mohla zvýšiť, čo by znamenalo vážne demokratické otázky nielen pre Slovensko, ale aj pre Európu a svet. Zatiaľ čo vo svete pokračujú diskusie o tom, ako umelá inteligencia ovplyvní žurnalistiku a slobodu tlače, tento prípad predstavuje znepokojujúci príklad hrozieb, ktoré môže predstavovať technológia deepfake, či už teraz alebo v budúcnosti.

Karin Kovari-Solymos pracuje v Investigatívnom centre Jána Kuciaka (ICJK) na Slovensku

Tento článok vznikol na objednávku IPI ako súčasť Rýchla reakcia na slobodu médií (MFRR), celoeurópsky mechanizmus, ktorý sleduje, monitoruje a reaguje na porušovanie slobody tlače a médií v členských štátoch EÚ, kandidátskych štátoch a na Ukrajine. Projekt je spolufinancovaný Európskou komisiou.