Kes ja kuidas levitab valeinfot? Tallinna Ülikooli digitehnoloogiate instituudi teadlased lõid süsteemi valeinfo levitajate tuvastamiseks
Tallinna Ülikooli digitehnoloogiate instituudi (DTI) professor David Lamas ja dotsent Sónia Sousa ning nooremteadurid Debora Conceicao Firmino De Souza ja Gabriela Beltrão osalesid rahvusvahelises teadusprojektis MARTINI. Projekti laiem eesmärk on arendada tehisintellektil põhinev tööriist, mis suudab automaatselt tuvastada ja profileerida valeinfo levitajaid sotsiaalmeedias. DTI teadlased töötasid välja taksonoomilise klassifitseerimissüsteemi, millele tuginedes saab niisugust TI tööriista arendada.
DTI teadlased koordineerisid seda osa uurimistööst, mis keskendus sotsiaalvõrgustikes levivale väär- ja eksitavale teabele ning selle levitajate rollile. Teadur Debora Conceicao Firmino De Souza sõnul oli uurimistöö üks suurimaid väljakutseid levitajate tuvastamine, sest internetis ringlev sisu ei ole alati pahatahtlik. “Märkimisväärne osa valest teabest levib pahaaimamatute kasutajate kaudu, kes ei ole teadlikud, et levitavad eksitavat infot. Lisaks teeb olukorra keeruliseks asjaolu, et valeinfot levitavad nii inimesed kui ka automatiseeritud kontod ehk botid ning selles tegevuses võivad osaleda nii üksikisikud kui ka organiseeritud rühmitused. Arvestades eksitava sisu kiiret levikut, on selle tuvastamiseks ja faktikontrolliks sageli väga vähe aega,” lisas Souza.
Digitehnoloogiate instituudi teadlaste panus seisneb klassifikatsioonisüsteemi loomises, mis võimaldab arendada üldisemaid ja sündmusest sõltumatuid tuvastusmehhanisme, mis suudavad väärinfo levitajaid tuvastada ja profileerida. Teadlaste loodud taksonoomiline süsteem koosneb kolmest osast ning on mõeldud vastama järgmistele küsimustele:
- Kes on valeinfo levitaja ja millised on tema tunnused? Näiteks, kas ta loob ise valeinfot või üksnes jagab seda? Kas ta on üksikisik või organisatsioon?
- Mida nad teevad ja kuidas tegutsevad? Kas nad manipuleerivad uudisvoogudega, suunavad avalike arutelude fookust või tegelevad mainekujundusega?
- Mis on nende laiem strateegia ja eesmärk? Kas nad spämmivad valimatult, võimendavad kunstlikult oma mõju või loovad kajakambreid?
Loodud taksonoomia on universaalne ega ole seotud ühegi konkreetse teemaga, riigi, poliitilise suundumuse ega sündmusega. Seda saab rakendada väga erinevates kontekstides väärinfo levitajate tuvastamiseks ja profileerimiseks.
Loodud süsteemi katsetati päriseluliste näidete peal. Teadlased analüüsisid Telegrami kanaleid, kus oli jagatud eksitavat või pahatahtlikku sisu. Juhtumiuuring näitas, et praktikas on sisu klassifitseerimine äärmiselt keeruline, kuna tõlgendus sõltub suurel määral kontekstist ja võrgustikust.
Lisaks sõltub hinnang sellele, kas tegemist on valeinfoga, sageli suuremast kontekstist: üks ja sama postitus võib ühes arutelus tunduda neutraalne, kuid omandada teises eksitava või lausa kahjuliku tähenduse. Samuti on raske kindlaks teha, kes sisu algselt lõi ja kes seda üksnes edasi jagas, sest sisu liigub erinevate sotsiaalmeedia platvormide vahel kiiresti, sageli ilma viiteta algallikale.
Dotsent Sónia Sousa sõnul on tehtud tööl siiski suur väärtus: “Loodud süsteem pakub usaldusväärset alust teadlastele ja tehnoloogia arendajatele, et jätkata tehisintellektil põhinevate tööriistade arendamist, mis suudavad väärinfo levitajaid tuvastada ja profileerida, ning toetada võrgusüsteemide vastutustundlikku kujundamist.”
Praegu töötab projektimeeskond koos uurimisrühma partneritega uue teaduspublikatsiooni kallal, millega esitleda projekti lõplikke järeldusi.
Teadusartikkel “Naming Names: A Taxonomy of Malicious Actors and Their Activities in Online Social Networks“ avaldati konverentsi ECCE 2025 ettekannete kogumikus ning on kättesaadav ACM Digital Library’s.