Istraživači s prestižnog Univerziteta ETH Zurich objavili su studiju koja sugeriše da vještačka inteligencija (AI) može precizno da "pogodi" osjetljive informacije o osobi na osnovu onoga što kuca na internetu. Ovo uključuje rasu, spol, lokaciju, starost, mjesto rođenja, posao i druge atribute koji su obično zaštićeni zakonima o privatnosti.
LLM modeli gotovo jednako precizni kao ljudi
Studija je fokusirana na ispitivanje kako veliki jezični modeli (LLMs) mogu biti potaknuti da zaključe lične detalje korisnika. Istraživači su manuelno analizirali profile i objave 520 stvarnih korisnika sajta Reddit od 2012. do 2016. godine i uporedili ih sa zaključcima koje je AI iznio.
- Ključno zapažanje našeg rada je da su najbolji LLM modeli gotovo jednako precizni kao ljudi, dok su barem 100 puta brži i 240 puta jeftiniji u izvlačenju ovakvih ličnih informacija - rekao je Mislav Balunovic, doktorant na ETH Zurich i jedan od autora studije, piše Wired.
Među testiranim modelima, GPT-4 je pokazao najveću preciznost sa 84,6 posto tačnosti u "pogađanju" ličnih informacija. Ostali testirani modeli uključivali su Metin Llama2, Googleov PalM i Anthropic-ov Claude. Zanimljivo je napomenuti da je Googleov PalM odbio da odgovori na oko 10 posto pitanja koja su se koristila za dedukciju ličnih informacija korisnika, dok su drugi modeli odbijali još manje upita., piše Telegraf.rs.
Prijetnja privatnosti
- Ovo je vrlo, vrlo problematično, i nije čak ni jasno kako riješiti ovaj problem - upozorio je Martin Večev, profesor na ETH Zurich i jedan od autora studije. On je istakao da bi "individualni korisnici, ili praktično svako ko ostavlja tekstualne tragove na internetu, trebalo da budu više zabrinuti jer zlonamjerne osobe mogu zloupotrijebiti modele da zaključe njihove privatne informacije".
Istraživanje se nadovezuje na prethodne studije koje također ističu moguće prijetnje privatnosti koje AI može donijeti. Naprimjer, studija objavljena u avgustu otkrila je da AI može da dešifruje tekst, kao što su lozinke, na osnovu zvuka kucanja snimljenog preko Zooma, sa preciznošću do 93 posto.
