I ChatGPT može biti skupa zamka koju vam postavljaju hakeri

Pretraživanje interneta preko alata ChatGPT može da bude nepouzdano zbog manipulacija uz pomoć skrivenog sadržaja i opasno zbog toga što bi ovaj alat mogao da pokupi zlonamerni kod sa stranica koje pretražuje, pokazalo je danas objavljeno istraživanje Gardijana.

Majkrosoftov istraživač bezbednosti Tomas Rokia je nedavno opisao slučaj osobe zainteresovane za kripto valute koja je koristila ovaj čet-bot za pomoć u programiranju.

 Neki od kodova koje je ChatGPT kreirao su trebali da osiguraju pristup blokčejn platformi Solana, ali zlonamerni program je umesto toga ukrao akreditive programera, tako da je oštećena osoba ostala bez 2.500 dolara.

Kompanija Open AI, koja stoji iza ovog proizvoda, podstiče premijum klijente da što više koriste čet-bot za pretragu interneta, ali istraga je otkrila bezbednosne probleme, dodaje londonski list.

Gardijan je testirao kako je ChatGPT reagovao kada je zatraženo da rezimira veb stranice koje sadrže skriveni sadržaj. Ovaj sadržaj može da sadrži uputstva trećih strana koja menjaju odgovore alata za veštačku inteligenciju.

Pomenute tehnike mogu da se koriste zlonamerno, na primer da navedu čet-bot da pozitivno proceni proizvod uprkos negativnim recenzijama na istoj stranici, a testiranje je pokazalo da je pretraživač podložan ovoj manipulaciji.

Istraživač za sajber bezbednost u kompaniji CyberCX, Jakob Larsen, upozorava na "visok rizik" da će prevaranti kreirati posebne veb stranice koje su usmerene na obmanu korisnika, ali veruje da će Open AI postepeno rešavati bezbednosne probleme svog novog proizvoda.

On je istakao da je nova funkcija pretrage izašla nedavno i da je za sada dostupna samo premijum korisnicima.

BONUS VIDEO

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi