Adler, S., Hitzig, Z., Jain, S., Brewer, C., Chang, W., DiResta, R., ... & Zick, T. (2024). Personhood credentials: Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online. arXiv preprint arXiv:2408.07892.
Apstrakt:
Anonimnost je jedan od važnih principa na mreži. Međutim, zlonamerni akteri već dugo koriste lažne identitete za prevaru, širenje dezinformacija i druge obmanjujuće šeme. S pojavom sve sposobnije veštačke inteligencije (VI), zlonamerni akteri mogu da povećaju potencijalni obim i efikasnost svojih operacija, pojačavajući izazov balansiranja između očuvanja anonimnosti i obezbeđenja pouzdanosti na mreži.
U ovom radu analizira se vrednost novog alata koji bi mogao da posluži prevazilaženju pomenutog izazova: tzv. akreditivi ličnosti (personhood credentials: PHC), odnosno digitalni akreditivi koji omogućavaju korisnicima da prilikom korišćenja onlajn usluge pokažu da su stvarni ljudi a ne VI, a da pri tom ne otkriju bilo kakve lične podatke. Akreditive ličnosti može izdati niz institucija od poverenja – državnih, ili drugih, a sistem zasnovan na takvim akreditivima može biti lokalni ili globalni i ne mora da se bazira na biometriji.
Dva trenda u razvoju VI doprinose hitnosti izazova: sve je izraženija nerazlučivost VI od ljudi na mreži (tj. realistični sadržaj i avatari, agentska aktivnost) i sve je veća skalabilnost VI (tj. isplativost, pristupačnost). Oslanjajući se na dugu istoriju istraživanja anonimnih akreditiva i sistema „dokaza o ličnosti“, akreditivi ličnosti daju ljudima mogućnost da potvrde svoju verodostojnost na onlajn platformama, a pružaocima usluga nove alate za smanjenje zloupotrebe od strane malicioznih aktera. Nasuprot tome, postojeće protivmere za automatizovanu obmanu – kao što su CAPTCHA – nisu adekvatne sofisticiranoj VI, dok su stroga rešenja za verifikaciju identiteta nedovoljno privatna za mnoge slučajeve upotrebe.
Nakon što su ispitane prednosti akreditiva ličnosti, procenjeni su i rizici primene i izazovi dizajna.
Na kraju je dat predlog narednih koraka koje kreatori politike, tehnolozi i tela za standardizaciju treba da razmotre u konsultaciji sa javnošću.
Izvor >>