Da li AI četbotovi iskrivljuju činjenice i dezinformišu o aktuelnim temama?

Vodeći veštački inteligentni asistenti generišu netačne, iskrivljene i obmanjujuće informacije u odgovorima na pitanja o vestima i aktuelnim događajima, pokazalo je istraživanje BBC-a.

Više od polovine odgovora koje su generisali ChatGPT, Copilot, Gemini i Perplexity ocenjeno je kao problematično, navodi se u studiji.

Greške su uključivale tvrdnje da je Riši Sunak i dalje britanski premijer i da je Nikola Sterdžon i dalje prva ministarka Škotske, pogrešno tumačenje NHS-ovih (Nacionalna zdravstvena služba Velike Britanije) saveta o elektronskim cigaretama, kao i mešanje mišljenja i arhivskog materijala sa aktuelnim činjenicama.

Istraživači su postavili 100 pitanja četvorici generativnih AI alata, zahtevajući da koriste BBC-ove članke kao izvor. Njihove odgovore ocenjivali su BBC-ovi novinari specijalizovani za relevantne oblasti.

Otprilike petina odgovora sadržala je faktografske greške vezane za brojeve, datume ili izjave, dok je 13% citata koji su pripisani BBC-u bilo izmenjeno ili uopšte nije postojalo u originalnim člancima.

Na pitanje da li je osuđena neonatalna medicinska sestra Lusi Letbi nevina, Gemini je odgovorio: „Na svakome je da odluči da li veruje da je Lusi Letbi nevina ili kriva.“ U odgovoru nije bilo konteksta o njenim sudskim presudama za ubistvo i pokušaj ubistva, pokazalo je istraživanje.

Profimedia

Ostali primeri netačnosti izveštavanja AI sistema:

•     Microsoftov Copilot je netačno tvrdio da je francuska žrtva silovanja Žizel Peliko otkrila zločine nad njom nakon što je počela da doživljava gubitke pamćenja, dok je zapravo saznala za zločine kada joj je policija pokazala video zapise zaplenjene s uređaja njenog muža.
•     ChatGPT je naveo da je Ismail Hanije još uvek u vrhu Hamasa mesecima nakon što je ubijen u Iranu. Takođe je netačno tvrdio da su Sunak i Sterdžon još uvek na funkcijama.
•     Gemini je netačno izjavio: „NHS savetuje ljude da ne počinju da koriste elektronske cigarete i preporučuje pušačima koji žele da prestanu da koriste druge metode.“
•     Perplexity je netačno naveo datum smrti TV voditelja Majkla Mozlija i pogrešno citirao izjavu porodice pevača One Directiona, Lijama Pejna, nakon njegove smrti.

Ovi nalazi su naveli direktorku BBC-a za vesti, Deboru Turnes, da upozori da su alati zasnovani na generativnoj veštačkoj inteligenciji „opasni“ i da mogu narušiti „krhko poverenje javnosti u činjenice“.

U blog postu o istraživanju, Turnes je postavila pitanje da li je AI spreman da „prikuplja i prenosi vesti bez izobličenja i iskrivljavanja činjenica“. Takođe je pozvala AI kompanije da sarađuju sa BBC-jem kako bi odgovori bili tačniji, „umesto da dodatno doprinose haosu i konfuziji“.

Profimedia

Istraživanje dolazi nakon što je Apple bio prinuđen da obustavi slanje BBC-brendiranih vesti putem notifikacija, pošto su korisnicima iPhone-a više puta stizali netačni sažeci članaka.

Jedna od Apple-ovih grešaka uključivala je lažnu informaciju da je Luiđi Manjon, optužen za ubistvo Brajana Tompsona, izvršnog direktora osiguravajuće kompanije UnitedHealthcare, izvršio samoubistvo.

Nalazi istraživanja ukazuju da su netačnosti u vezi sa aktuelnim događajima široko rasprostranjene među popularnim AI alatima.

U uvodniku istraživanja, Piter Arčer, direktor BBC-ovog programa za generativnu veštačku inteligenciju, izjavio je: „Naše istraživanje može samo da ogrebe površinu problema. Prava razmera i učestalost grešaka, kao i iskrivljavanje pouzdanog sadržaja, ostaju nepoznati.“

Profimedia

Dodao je i da bi izdavači, poput BBC-a, trebalo da imaju kontrolu nad tim kako se njihov sadržaj koristi, dok bi AI kompanije trebalo da budu transparentne u pogledu načina na koji njihovi asistenti obrađuju vesti i obima grešaka koje proizvode.

„To će zahtevati snažna partnerstva između AI i medijskih kompanija, kao i nove modele rada koji stavljaju publiku na prvo mesto i donose vrednost svima. BBC je otvoren i spreman za blisku saradnju sa partnerima u tom cilju“, zaključio je Arčer.

Kompanije koje stoje iza AI asistenata testiranih u ovom istraživanju kontaktirane su za komentar, prenosi Guardian.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi