Rozmachom sociálnych sietí sa stali dezinformácie a nenávistné prejavy na internete jednými z najpálčivejších problémov modernej spoločnosti. Práve boju proti nim sa vo svojom výskume venuje Ing. Ivan Srba, PhD., ktorý pôsobí v Kempelenovom inštitúte inteligentných technológií (KInIT) v Bratislave a je odborníkom na umelú inteligenciu a strojové učenie.
Výskum Ivana Srbu a jeho kolegov z KInITu pomáha fact-checkerom a žurnalistom efektívnejšie vyhodnocovať dezinformačné príspevky na sociálnych sieťach. Na základe rozhovorov s nimi napríklad vytvorili celosvetovú databázu fact-checkov, v ktorej je možné vyhľadávať podobne ako vo vyhľadávači. „Fact-checker si vezme príspevok v slovenčine, napríklad z Facebooku, vloží ho do našej aplikácie a ona mu vyhľadá rovnaký príspevok, ktorý už bol niekde fact-checkovaný. Hoci aj v inom jazyku. Takto vidí, ako jeho kolega z inej krajiny daný príspevok vyhodnotil a na aké zdroje sa pri tom odvolal,“ vysvetľuje Ivan Srba. Databázu používajú najmä fact-checkeri v strednej Európe, a to v rámci projektu CEDMO – medzinárodného hubu na boj proti dezinformáciám, ktorého je KInIT súčasťou. „Takýmito nástrojmi pomáhame prekonávať problém multijazyčnosti. Ako vieme, v malých krajinách konzumujú ľudia dezinformačný obsah primárne vo svojich materinských jazykoch, nie v angličtine,“ dodáva Srba.
Aktuálne pracuje spolu s kolegami na nástroji, ktorý spraví skríning online obsahu a poskytne analýzu kredibility. V rámci nej odhalí napríklad prítomnosť argumentačných chýb a faulov. „Fact-checker si na základe toho môže povedať, či sa oplatí daný text vyhodnotiť. Naopak, žurnalistovi to dá jasný signál, že článok nie je dobrým zdrojom informácií.“
Vo svojom výskume sa venuje aj ChatGPT a ostatným jazykovým modelom AI a ich vplyvu na tvorbu dezinformácií. Spolu s tímom navrhuje metódy, ktoré by umožnili detegovať automaticky generovaný obsah, ktorý predstavuje pre túto oblasť veľkú hrozbu. „Našťastie zatiaľ neevidujeme, že by sa tieto modely – minimálne v našom slovenskom priestore – zneužívali na tvorbu dezinformácií, no myslíme si, že je to len otázka času.“ Okrem samotného boja proti dezinformáciám sa Ivan Srba snaží pomáhať žurnalistom efektívnejšie a rýchlejšie vytvárať dôveryhodný obsah tým, že ich učí používať najnovšie technológie v umelej inteligencii, napríklad spomínané jazykové modely.
Ivan Srba sa spolu s kolegami v KInITe venuje tiež trénovaniu umelej inteligencie s menším množstvom dát, čo robí celý proces efektívnejším a umelú inteligenciu de facto zelenšou, keďže spotrebuje menej elektrickej energie. Sekundárne sa tiež venujú nezávislému auditovaniu sociálnych sietí. V roku 2022 dokonca úspešne postúpil do druhého hodnotiaceho kola so svojím projektom ERC, v ktorom navrhol novú výskumnú oblasť modelom riadeného algoritmického auditu systémov umelej inteligencie sociálnych médií a ich tendencií šíriť škodlivý obsah.
K vede priviedli Ivana Srbu rodičia, ktorí sú obaja informatici. Počas svojho štúdia na Fakulte informatiky a informačných technológií Slovenskej technickej univerzity (STU) v Bratislave pracoval na viacerých online nástrojoch, ktoré pomáhali študentom pri učení. Patrili sem aj tzv. systémy pre odpovedanie na otázky v komunitách, v ktorých komunita pomáha hľadať odpovede na otázky ľudí. Vtedy si všimol, že niektorí študenti tieto systémy zneužívali a pýtali sa na svoje zadania prác. „Práve toto odštartovalo môj záujem o anti-sociálne správanie ľudí na internete, no a neskôr som sa dostal k samotným dezinformáciám,“ opisuje svoje vedecké začiatky.
Ivan Srba má skúsenosti s mnohými medzinárodnými projektami, v rámci ktorých úzko spolupracoval aj so špičkovými univerzitami, akými sú napríklad Harvard University, University of Sheffield či University of Lugano. Výsledky svojho výskumu šíri aj na medzinárodných podujatiach a seminároch, ako prestížne fórum Heidelberg Laureate Forum či seminár Dagstuhl.
Keď sa práve nevenuje vede, veľmi rád cestuje. Ideálne je, ak to vie spojiť so svojou druhou veľkou záľubou, a tou je fotografovanie. Väčšinu voľného času však najradšej venuje rodine a svojim dvom synom.
