The Check: evolucija klepetalnega robota za boj proti dezinformacijam

uredništvo Oštra

—

Klepetalni robot The Check, ki smo ga na Oštru razvili s partnerji za preverjanje dejstev, to so Newtral (Španija), Delfi (Litva), Lakmusz (Madžarska) in Faktoje (Albanija), bo prispeval k razumevanju, kako lahko generativna umetna inteligenca podpre preverjevalce dejstev in pomaga javnosti pri dostopu do preverjenih informacij. 

The Check je zasnovan kot vodilni primer naslednje generacije klepetalnih robotov, ki temeljijo na generativni umetni inteligenci ter so zmožni navidezno naravno in natančno odgovarjati na vprašanja uporabnikov. To omogoča učinkovitejši in obsežnejši boj proti dezinformacijam.

Temelji na računalniškem modelu retrieval-augmented generation (RAG), ki združuje moč generativne umetne inteligence z izbrano zbirko preverjenih dejstev. Uporabnikom omogoča postavljanje vprašanj in prejemanje jasnih, preglednih odgovorov, podprtih z viri.

Tehnični razvoj sistema je vodil Newtral, ki je poskrbel za to, da klepetalni robot črpa ustrezne informacije iz žive zbirke preverjenih trditev, obenem pa ohranja natančnost in razumljivost. Klepetalni robot je bil naučen, da ne le pridobiva pravilne informacije, temveč tudi navaja svoje vire. To je lastnost, po kateri se razlikuje od drugih orodij, ki temeljijo na umetni inteligenci.

Toda za tak rezultat zgolj tehnološki vidik razvoja ni bil dovolj. S preostalimi partnerji v konzorciju, to so Delfi, Lakmusz in Faktoje, smo imeli pomembno vlogo pri oblikovanju večjezičnosti klepetalnega robota. Preverjevalci dejstev so označevali in pregledovali na stotine odgovorov, ki jih je ustvarila umetna inteligenca, ter ocenjevali njihovo točnost, jasnost in korektnost navedbe virov. Ta mehanizem povratnih informacij je bil ključen za učenje sistema in odkrivanje primerov, ki so zahtevali izboljšave.

Eden najpogostejših izzivov je bila nezmožnost klepetalnega robota, da bi našel ustrezen odgovor na zastavljeno vprašanje na podlagi preverjenega dejstva. S tem se je pokazala temeljna omejitev pri uporabi umetne inteligence: ta lahko pridobi le informacije, ki že obstajajo v njeni bazi podatkov. Če o neki trditvi še ni bil objavljen preverjen zapis, je klepetalni robot ostal brez odgovora ali pa je prikazal vsebino, ki je bila tematsko sorodna, a ni neposredno odgovorila na vprašanje. To poudarja nujnost širjenja strukturiranih baz preverjenih dejstev in njihovega označevanja z natančnejšimi metapodatki.

Tudi kadar je klepetalni robot podal pravilen odgovor, so se včasih pojavile težave zaradi neustreznih ali nerelevantnih virov, napačnega jezika ali izmišljenih vsebin. Ti primeri so pokazali, da za kakovosten odgovor ni dovolj zgolj dejanska pravilnost – potrebna je tudi usklajenost med pridobljeno vsebino, jezikom, v katerem je bilo postavljeno vprašanje, in strukturo odgovora. Ključni ukrepi za zmanjšanje pojavljanja takšnih napak so bili izboljšanje filtriranja virov v RAG-arhitekturi, zaznavanja, v katerem jeziku poteka pogovor, in preverjanja ustreznosti odgovorov.

Poleg preizkušanja jezikovnih zmožnosti klepetalnega robota je projekt ponudil dragocene vpoglede v to, kako lahko umetna inteligenca dopolnjuje delo preverjevalcev dejstev in omogoča, da s svojim delom dosežejo več ljudi. Z ugotavljanjem, v katerih primerih tehnologija uspešno deluje in kdaj še vedno naleti na težave, so partnerji projekta postavili temelje za prihodnja orodja, ki bodo bolj prilagodljiva in zanesljiva.

The Check je del naraščajočega trenda pobud, ki umetne inteligence ne vidijo zgolj kot izziva na področju dezinformacij, temveč tudi kot del rešitve, ki bo ljudem omogočila hitrejše prepoznavanje lažnih novic. 

Projekt financira Evropski medijski informacijski sklad (EMIF)