Giacomo Zandonini
Apostolis Fotiadis
Luděk Stavinoha
Početkom maja 2022, nekoliko dana pre nego što je iznela jedan od najspornijih normativnih predloga godinama unazad, Komesarka Evropske unije za unutrašnje poslove Ilva Johanson poslala je pismo američkoj organizaciji, koju su 2012. osnovale filmske zvezde Ešton Kučer i Demi Mur.
Radi se o organizaciji Thorn, koja razvija alate, zasnovane na veštačkoj inteligenciji, za skeniranje slika seksualnog zlostavljanja dece na mreži, a predložena regulativa dizajnirana je upravo s ciljem borbe protiv deljenja takvog sadržaja u aplikacijama za razmenu poruka.
„Podelili smo mnogo zajedničkih trenutaka na putu do ovog predloga“, napisala je švedska političarka, prema kopiji pisma upućenog Džuli Kordua, izvršnoj direktorki Thorn-a, a u koje je BIRN imao uvid.
Johansonova ju je pozvala da nastavi s kampanjom: „Sada od Vas tražim da pomognete da ovo “lansiranje” bude uspešno”.
Očekivalo se da će se ta “kampanja” suočiti s velikim testom u oktobru 2023. kada je planirano da Predlog uredbe bude stavljen na glasanje pred Komitet za građanske slobode Evropskog parlamenta. Naime, sama najava „kampanje“ već je bila predmet burne rasprave.
Uredba bi obavezivala digitalne platforme – od Fejsbuka do Telegrama, od Signala do Snepčata, od TikToka do stranica za cloud i onlajn igre – da otkriju i prijave bilo koji trag materijala koji sadrži prikaz seksualnog zlostavljanja dece (child sexual abuse material: CSAM), koji uoče na svojim sistemima i u privatnim četovima svojih korisnika.
Postupanje po takvoj obavezi bi uvelo složenu pravnu arhitekturu koja se oslanja na AI alate za detekciju slika, video zapisa i govora koji sadrže CSAM, kao i pokušaje grooming-a dece – tzv. „skeniranje na strani klijenta“ (client-side scanning).
Iako su tekst pozdravile pojedine organizacija za zaštitu dece, Predlog je ipak uzbunio zastupnike privatnosti i stručnjake za tehnologiju, koji su stava da bi primena Uredbe dovela do stvaranja sistema za masovni nadzor i ugrozila upotrebu end-to-end enkripcije, trenutno krajnjeg načina da se privatnost elektronske komunikacije zaštiti od znatiželjnih očiju.
Vojčeh Vievrovski, Evropski supervizor za zaštitu podataka o ličnosti, upozorio je Johansonovu na ozbiljne rizike po privatnost komunikacija još 2020, kada ga je obavestila o svojim planovima.
Ovi planovi predstavljaju „prelazak Rubikona” u smislu masovnog nadzora građana EU, rekao je on u intervjuu za ovu priču, a njihovo sprovođenje bi “iz temelja promenilo internet i digitalnu komunikaciju kakve poznajemo”.
Johansonova, međutim, nije ni trepnula. „Zastupnici privatnosti veoma su glasni“, izjavila je u novembru 2021. godine. „Ali neko mora da govori i u ime dece“.
Na osnovu analize desetina intervjua, procurelih dokumenata i uvida u interna razmatranja Komisije, ova istraga povezuje tačke između ključnih aktera koji finansiraju i organizuju kampanju zastupanja u korist Predloga Johansonove i njihove direktne veze s Komesarkom i njenim kabinetom.
Radi se o sintezi, koja je određenim zainteresovanim stranama – kompanijama, koje razvijaju alate zasnovane na veštačkoj inteligenciji, i grupama za zastupanje, koje uživaju značajnu finansijsku podršku, omogućila sumnjiv nivo uticaja na kreiranje politike EU.
Predlog uredbe je „pod preteranim uticajem kompanija koje se pretvaraju da su nevladine organizacije, ali se više ponašaju kao tehnološke kompanije“, rekla je Arda Gerkens, bivša direktorka najstarije evropske telefonske linije za prijavljivanje CSAM na mreži.
„Grupe, kao što je Thorn, koriste sve što mogu da iznesu ovaj Predlog, ne samo zato što smatraju da je to korak napred u borbi protiv seksualnog zlostavljanja dece, već i zato što imaju jasan komercijalni interes da to čine.”
Ako Predlog uredbe podrije enkripciju, rizikuje se s uvođenjem novih ranjivosti, tvrde kritičari. „Ko će imati koristi od takvog zakona?“ upitala je Gerkens. “Sigurno ne deca“.
GARANCIJE PRIVATNOSTI KOJE „OZBILJNO OBMANJUJU“
Zvezda TV serije “Lude sedamdesete” i mnoštva holivudskih hitova, 45-godišnji Kučer podneo je ostavku s mesta predsednika odbora Thorn-a sredinom septembra 2023. usred medijske buke koja je nastala zbog pisma koje je uputio sudiji pre izricanja presude, u znak podrške osuđenom silovatelju i glumcu Deniju Mastersonu.
Do tog trenutka, međutim, Kučer je godinama bio jasno prepoznatljivo lice kampanje za oslobađanje interneta od CSAM-a, uloge koja je podrazumevala značajan pristup najvišim zvaničnicima u Briselu.
U Thorn-ovim izjavama u EU registru transparentnosti navode se podaci o sastancima s visokim članovima kabineta najviših zvaničnika Komisije koji imaju pravo glasa u bezbednosnoj ili digitalnoj politici Unije, uključujući Johansonovu, “antimonopolskog cara”, Margrete Vestager, potpredsednika Komisije, Margaritisa Šinasa i komesara za unutrašnje tržište, Tijerija Bretona.
U novembru 2020. na red je došla i predsednica Komisije Ursula fon der Lajen, koja je učestvovala na video konferenciji s Kučerom i organizacijom WeProtect Global Alliance, registrovanoj u malom holandskom gradu Lise.
Iako je u EU bazi podataka o lobijima registrovan kao dobrotvorna organizacija, Thorn prodaje svoje AI alate na tržištu, ostvarujući profit; primera radi, Ministarstvo za unutrašnju bezbednost SAD je od 2018. kupilo softverske licence od Thorn-a u vrednosti od ukupno 4,3 miliona dolara.
Ove alate koriste kompanije kao što su Vimeo, Flickr i OpenAI – tvorac četbota ChatGPT i jedan od mnogih korisnika Kučerovih IT investicija – i nadležni državni organi širom sveta.
Kučer i Johansonova su bili ključni govornici na samitu koji je u novembru 2022. organizovala i moderirala Eva Kaili, tadašnja potpredsednica Evropskog parlamenta, koja je tri nedelje kasnije uhapšena i smenjena zbog istrage o Qatargate skandalu u vezi s gotovinom za lobiranje.
U martu 2023, šest meseci pre ostavke, Kučer se obratio poslanicima u Briselu, nastojeći da ublaži zabrinutost zbog moguće zloupotrebe i nedostataka postojeće tehnologije. Tehnologija može da skenira sumnjivi materijal bez narušavanja privatnosti, rekao je on, za koju tvrdnju je Evropsko udruženje za digitalna prava reklo da je „ozbiljno obmanjujuća“.
Komisija nije bila voljna da detaljno opisuje odnos između Thorn-a i kabineta Johansonove u okviru EU mehanizma za slobodan pristup informacijama. Odbila je da otkrije Korduin odgovor na pismo Johansonove iz maja 2022, kao i ’policy one pager’ koju je Thorn podelio s kabinetom, navodeći Thorn-ov stav da bi „obelodanjivanje informacija sadržanih u njemu potkopalo komercijalni interes organizacije“.
Sedam meseci nakon komunikacije u vezi s pristupom dokumentima i intervencije Evropskog ombudsmana, Komisija je početkom septembra 2023. konačno objavila seriju razmenjenih mejlova između Generalnog direktorata za migracije i unutrašnje poslove i Thorn-a.
Ove poruke otkrivaju kontinuiranu i blisku saradnju između dve strane mesecima nakon iznošenja Predloga uredbe, pri čemu je Komisija u više navrata olakšavala Thorn-u pristup ključnim mestima za donošenje odluka, kojima su prisustvovali ministri i predstavnici zemalja članica EU.
Evropski ombudsman trenutno ispituje odbijanje Komisije da odobri pristup nizu drugih internih dokumenata koji se odnose na predlog Johansonove.
Velika lobistička firma FGS Global, koju je Thorn angažovao i platio najmanje 600.000 evra samo u 2022, rekla je da Thorn neće komentarisati ovu priču. Johansonova takođe nije odgovorila na zahtev za intervju.
UPOZNAJTE ORGANIZACIJU WEPROTECT GLOBAL ALLIANCE
Među malobrojnim tragovima Thorn-ovih aktivnosti u EU registru transparentnosti lobiranja je doprinos od 219.000 evra tokom 2021. u korist WeProtect Global Alliance, organizacije koja je učestvovala na video konferenciji s Kučerom i Von der Lajen krajem 2020. godine.
WeProtect je plod dve vladine inicijative – jednu su osnovale Komisija i Sjedinjene Države, a drugu Britanija.
Ove inicijative su se spojile tokom 2016, a kao zamah za podršku Predlogu uredbe o borbi protiv CSAM upotrebom tehnologije skeniranja na strani klijenta, WeProtect je u aprilu 2020. transformisan iz entiteta, koji finansira britanska vlada, u navodno nezavisnu „fondaciju“ registrovanu na adresi u Liseu, gradiću na holandskoj obali Severnog mora.
Među članovima ove organizacije su moćne bezbednosne agencije, mnoštvo vlada, menadžeri Big Tech kompanija, nevladine organizacije, kao i jedan od najviših zvaničnika u kabinetu Johansonove, Antonio Labrador Himenez, koji predvodi tim Komisije zadužen za borbu protiv CSAM-a.
Nekoliko minuta nakon što je Predlog uredbe predstavljen u maju prošle godine, Labrador Himenez je poslao e-poruku svojim kolegama iz Komisije: „EU ne prihvata da deca ne mogu biti zaštićena i da postanu žrtve politike koje stavlja bilo kakve druge vrednosti ili prava iznad njihove zaštite, o kakvim god se vrednostima i pravima radilo.”
Rekao je da se raduje što će sledećeg meseca „videti mnoge od vas u Briselu tokom WeProtect Global Alliance samita“.
Labrador Himenez se zvanično pridružio upravnom odboru ove organizacije u julu 2020, nakon što je Komisija odlučila da se pridruži ovoj organizaciji i finansira je kao „centralnu organizaciju za koordinaciju i racionalizaciju globalnih napora i regulatornih poboljšanja“ u borbi protiv CSAM-a. Međutim, javni dokumenti ove organizacije pokazuju da je Labrador Himenez učestvovao na sastancima odbora još u decembru 2019. godine.
Komentarišući ovu priču, Komisija je rekla da Labrador Himenez „ne prima nikakvu vrstu nadoknade za svoje učešće u upravnom odboru organizacije WeProtect Global Alliance, a da ovu funkciju obavlja kao deo svojih dužnosti u okviru Komisije“.
Međutim, sama pozicija Labradora Himeneza u WeProtect odboru otvara pitanja o tome kako Komisija koristi svoje učešće u ovoj organizaciji da promoviše predlog Johansonove.
Kada je Labrador Himenez obavestio kolege članove WeProtect odbora o Predlogu uredbe u julu 2022, beleške sa sastanka pokazuju da je „Odbor raspravljao o medijskoj strategiji za promociju legislativnog akta“.
Labrador Himenez je takođe igrao ključnu ulogu u izradi i promovisanju Uredbe, upravo one za koju WeProtect vodi aktivnu kampanju uz finansiranje EU. Pored njega u upravnom odboru su Džuli Kordua iz Thorn-a, kao i vladini zvaničnici iz SAD i Britanije [u kojoj se trenutno radi na izradi zakona o onlajn bezbednosti], Interpol, i Dana Humaid Al Marzouki, pukovnik Ujedinjenih Arapskih Emirata, koji predsedava ili učestvuje u brojnim međunarodnim policijskim snagama.
Generalna uprava Johansonove dodelila je između 2020. i 2023. skoro milion evra WeProtect organizaciji za organizovanje samita u Briselu u junu 2022, koji je bio posvećen borbi protiv CSAM-a, i za aktivnosti na unapređenju saradnje između nadležnih državnih organa.
Organizacija WeProtect nije direktno odgovorila na pitanja u vezi s finansijskim aranžmanima s Komisijom ili u kojoj meri njene strategije zastupanja oblikuju vlade i zainteresovane strane koje sede u njenom upravnom odboru.
U saopštenju se navodi da ovu organizaciju vodi „odbor za globalnu politiku uz učešće više zainteresovanih strana, čiji su članovi predstavnici pojedinih država, međunarodnih organizacija, organizacija civilnog društva i tehnološke industrije.”
FINANSIRANJE
Pored Labradora Himeneza, član WeProtect odbora je i Daglas Grifits, bivši zvaničnik američkog Stejt departmenta a trenutno predsednik Oak fondacije sa sedištem u Ženevi, grupe filantropskih organizacija iz celog sveta, koja dodeljuje grantove „kako bi svet učinili bezbednijim, pravednijim i održivijim mestom za život”.
Oak fondacija je pružila WeProtect organizaciji „značajnu podršku za strateške komunikacije“, prema WeProtect finansijskim izveštajima iz 2021. godine.
Iz godišnjih finansijskih izveštaja Oak fondacije jasno je da je prisutna dugoročna posvećenost pomaganju nevladinim organizacijama u borbi protiv zlostavljanja dece. Ova fondacija takođe finansira blisko povezanu mrežu organizacija civilnog društva i lobističkih grupa koje promovišu predloženu Uredbu, od kojih su mnoge pomogle u izgradnji krovnog entiteta pod nazivom Evropska grupa za zastupanje zakona o seksualnom zlostavljanju dece (European Child Sexual Abuse Legislation Advocacy Group: ECLAG).
ECLAG, koji je pokrenuo svoju veb stranicu nekoliko nedelja nakon što je predlog Johansonove objavljen u maju 2022, deluje kao platforma za koordinaciju za neke od najaktivnijih organizacija koje lobiraju u korist CSAM zakonodavstva. U njegov upravni odbor uključeni su predstavnici Thorn-a i mnoštvo poznatih organizacija za prava dece, kao što su ECPAT, Eurochild, Missing Children Europe, Internet Watch Foundation i Terre des Hommes.
Član Upravnog odbora je i Brave Movement, koji je nastao u aprilu 2022, mesec dana pre iznošenja Predloga uredbe, zahvaljujući doprinosu od 10,3 miliona dolara od strane Oak fondacije u koristi neprofitne organizacije Together for Girls, sa sedištem u SAD, koja se bori protiv seksualnog nasilja nad decom.
Oak fondacija je takođe dodelila 5 miliona dolara Thorn-u 2019. godine. Tokom 2020. dodelila je 250.000 dolara ECPAT-u da angažuje „kreatore politike kako bi se uključili interese dece u reviziju Zakona o digitalnim uslugama kao i o uticaju end-to-end enkripcije”, i dodatnih 100.000 dolara za podršku naporima da se okonča „onlajn seksualno zlostavljanje dece i eksploatacija dece u digitalnom prostoru“. Iste godine odobrio je grant od 990.000 dolara za Eurochild, još jednu koaliciju nevladinih organizacija koja u Briselu vodi kampanju za prava dece.
Oak fondacija je 2021. dodelila Thorn-u dodatnih 250.000 dolara da poboljša svoju koordinacionu ulogu u Briselu s ciljem da se osigura „da sva zakonodavna rešenja i instrumenti koji dolaze iz EU nadograđuju i unapređuju postojeći ekosistem globalnih aktera koji rade na zaštiti dece na mreži“.
Oak fondacija je 2022. dodelila ECPAT-u trogodišnji finansijski paket od 2,79 miliona dolara „kako bi se osiguralo da prava dece budu u centru procesa digitalne politike u Evropskoj uniji“. Organizacija WeProtect Global Alliance je dobila grant od 2,33 miliona dolara, takođe za period od tri godine, „kako bi okupila vlade, privatni sektor, civilno društvo i međunarodne organizacije, kako bi razvili politike i rešenja koja štite decu od seksualne eksploatacije i zlostavljanja na mreži“.
U odgovoru na ovu priču, Oak fondacija je rekla da se „ne zalaže za predloženi zakon, niti radi na detaljima tih preporuka politike“.
Nije direktno odgovorila ni na pitanja u vezi sa implikacijama Uredbe na prava privatnosti. Portparol je istakao da Fondacija podržava organizacije koje se „zalažu za nove politike, s posebnim fokusom na EU, SAD i UK, u kojima postoji mogućnost za uspostavljanje presedana za vlade drugih država“.
'ZAVADI, PA VLADAJ'
U internim dokumentima za zagovaranje Brave Movement organizacije izložena je sveobuhvatna strategija da se čuje glas preživelih žrtava zlostavljanja kako bi se pružila podrška Predlogu Johansonove u evropskim prestonicama i, što je najvažnije, unutar Evropskog parlamenta.
Organizacija je imala značajan pristup Johansonovoj. Krajem aprila 2022. ugostila je Komesarku na onlajn Globalnom samitu preživelih žrtava – što je za briselske krugove izuzetan podvig za organizaciju koja je stvorena samo nekoliko nedelja ranije.
Interni strateški dokument iz novembra iste godine ne ostavlja nikakve sumnje o ulozi organizacije u prikupljanju podrške za Predlog Johansonove.
„Glavni cilj mobilizacije Brave Movement organizacije oko ovog predloženog zakona je da se usvoji i primeni u celoj EU“, navodi se.
„Ukoliko ovaj zakon bude usvojen, to će stvoriti pozitivan presedan za druge zemlje… koje ćemo pozvati da prate EU sličnim zakonima.
U aprilu ove godine, organizacija je održala „Dan akcije“ ispred Evropskog parlamenta, gde se okupila grupa preživelih žrtava seksualnog zlostavljanja dece na internetu „da zahtevaju od lidera EU da budu hrabri i deluju kako bi zaštitili milione dece od opasnosti od nasilja i traume sa kojima su se oni suočili”.
Johansonova se pridružila ovom događaju.
Osobe koje su preživele takvo zlostavljanje su ključne za strategiju Brave Movement organizacijeda pridobije uticajne poslanike u Evropskom parlamentu.
„Kada se uspostavi EU radna grupa za preživele i kada budemo jasni u vezi s mobilisanim preživelima, uspostavićemo listu koja će upariti pojedine preživele žrtve s pojedinim poslanicima Parlamenta – ‘podelićemo i osvojiti’ članove Parlamenta tako što ćemo im rasporediti prioritetne preživele iz zemalja porekla poslanika”, stoji u strategiji zastupanja.
Konzervativni španski poslanik Havijer Zarzalehos, vodeći pregovarač o ovom pitanju u Parlamentu, prema Brave Movement strategiji pozvao je na „snažnu mobilizaciju preživelih žrtavau ključnim zemljama, poput Nemačke“.
Veze između Brave Movement organizacije i Generalnog direktorata za migracije i unutrašnje poslove su još dublje: njegov menadžer kampanje za Evropu, Džesika Ejri, radila je na komunikaciji sa Generalnim direktoratom između oktobra 2022. i februara 2023, promovišući Predlog Johansonove.
Prema podacima na njenom LinkedIn profilu, Ejri je „blisko sarađivala sa timom za politiku koji je razvio [CSAM] zakone u D.4 [gde radi Labrador Himenez] kao i s partnerima, kao što je Thorn“.
Takođe je „radila horizontalno sa poslanicima Parlamenta, i organizacijama WeProtect Global Alliance i EPCAT“.
Na pitanje o mogućem sukobu interesa u radu Erijeve za Brave Movement organizaciju na istom legislativnom aktu, Evropska komisija je odgovorila da je Ejri imenovana kao pripravnik i da nije potrebna zvanična dozvola. Međutim, ipak je rečeno da „pripravnici moraju da čuvaju strogu poverljivost u vezi sa svim znanjem stečenim tokom obuke. Neovlašćeno otkrivanje nejavnih dokumenata ili informacija je strogo zabranjeno, s tim što se ova obaveza proteže i na period nakon obuke.”
Brave Movement organizacija je izjavila da je „ponosna na različite saveze koje smo izgradili i stručni tim koji smo regrutovali, otvoreno, za postizanje naših strateških ciljeva“, ističući da je samo prošle godine jedna telefonska linija za bezbednost dece na mreži primila 32 miliona prijava sadržaja koji prikazuju seksualno zlostavljanje dece.
Brave Movement organizacija je zatražila stručnu podršku: njenu strategiju zastupanja izradila je britanska konsultantska firma Future Advocacy, dok je njen toolkit, koji ima za cilj da „izgradi srž podrške za sveobuhvatno zakonodavstvo koje štiti decu” u EU, sačinjen uz učešće konsultantske kuće Purpose, čiju evropsku filijalu kontroliše francuski Capgemini SE.
Purpose je specijalizovan za dizajniranje kampanja za UN agencije i globalne kompanije, koristeći „javnu mobilizaciju i pripovedanje“ za „promenu politika i promenu javnih narativa“.
Počevši od 2022, Oak fondacija je dodelila grantove Purpose-u u vrednosti od 1,9 miliona dolara kako bi „pomogla da internet bude bezbedniji za decu“.
Od aprila 2022, predstavnici Purpose-a su se redovno sastajali sa ECLAG-om – mrežom grupa civilnog društva i lobista – kako bi usavršili panevropsku komunikacijsku strategiju.
Dokumenti u koje je ova istraga imala uvida takođe pokazuju da su se sreli s članovima tima Johansonove.
Na sastanku BeBrave Europe Task Force u januaru ove godine prisustvovali su predstavnici organizacija ECLAG, Purpose EU, Justice Initiative i jedinice Labradora Himeneza u okviru Generalnog direktorata. Inače, Guido Fluri fondacija, koja je pokrenula Justice Initiative, dobila je grant od 416.667 dolara od Oak fondacije u 2023. godini.
Komisija je, prema sopstvenim beleškama sa sastanka, „preporučila da kada razgovaraju sa zainteresovanim stranama u pregovorima, organizacije ne smeju da zaborave da prenesu osećaj hitnosti o potrebi postizanja dogovora o legislativnom aktu ove godine“.
Ova koordinirana poruka rezultirala je video snimkom koji se delio na društvenim mrežama na kom su Johansonova, Zarzalehos i predstavnici organizacija, koje stoje iza ECLAG-a, promovisale peticiju u korist Predlga uredbe.
NESRAZMERNO KRŠENJE PRAVA
Na oko 200 kilometara severno od Brisela, u holandskom gradu Amsterdamu, svetla kancelarija na ivici čuvene gradske četvrti crvenih fenjera označava liniju fronta borbe za identifikaciju i uklanjanje CSAM-a u Evropi.
Offlimits, ranije poznata kao Agencija za ekspertizu u vezi sa zlostavljanjem dece na mreži (Online Child Abuse Expertise Agency), ili EOKM, najstarija je evropska telefonska linija za decu i odrasle koji žele da prijave zlostavljanje, bilo da se dešava iza zatvorenih vrata ili se vidi na video snimku koji kruži onlajn.
Tokom 2022, sedam analitičara ove organizacije obradilo je 144.000 izveštaja, od kojih se 60 odsto odnosilo na nezakonit sadržaj. Dežurna linija šalje zahteve za uklanjanje sadržaja provajderima veb hostinga, a ako se materijal smatra posebno ozbiljnim, i policiji i Interpolu.
Od 2015. do septembra 2023, Arda Gerkens je bila direktorka Offlimits-a, a dobro poznaje politiku EU po ovom pitanju. Ipak, za razliku od Thorn-a, nije imala sreće da pristupi Johansonovoj.
„Pozvala sam je ovde, ali nikada nije došla“, rekla je Gerkensova, koja je i bivša poslanica Socijalističke partije u holandskom Parlamentu.
„Komesarka Johanson i njeno osoblje posetili su Silikonsku dolinu i velike severnoameričke kompanije“, rekla je ona. Kompanije koje se predstavljaju kao nevladine organizacije, ali se ponašaju više kao tehnološke kompanije, uticale su na regulativu Johansonove, rekla je Gerkensova, tvrdeći da Thorn i slične grupe „imaju komercijalni interes“.
Gerkensova je rekla da borba protiv zlostavljanja dece mora biti duboko poboljšana i uključiti sveobuhvatan pristup koji bi se bavio blagostanjem, obrazovanjem i potrebom da se zaštiti privatnost dece, uključujići i „pristup s više zainteresovanih strana u internet sektoru“.
„Šifrovanje je ključno i za zaštitu dece, jer predatori hakuju naloge tražeći slike“ rekla je.
Ovaj stav se reflektuje i zabrinutost koju su Holanđani izrazili u tekućim pregovorima o kompromisnom tekstu Predloga uredbe u Savetu EU, zalažući se u korist manje nametljivog pristupa koji štiti šifrovanu komunikaciju i odnosi se samo na materijal koji je već identifikovan i označen kao CSAM od strane grupa za praćenje i državnih organa.
Zvaničnik holandske vlade, koji je želeo da ostane anoniman, rekao je: „Holandija izražava ozbiljnu zabrinutost u vezi s trenutnim predlozima da se otkrije nepoznati CSAM i da se pozabavi grooming-em, jer trenutne tehnologije dovode do velikog broja lažnih pozitivnih rezultata”.
„Kršenje osnovnih prava nije proporcionalno”.
LIČNI INTERES
U junu 2022, ubrzo nakon što je Predlog Johansonove predstavljen, predstavnici Thorn-a su sedeli s Monikom Maljone, jednom od osoblja kabineta Komesarke. U internom izveštaju sa sastanka, dobijenom za ovu istragu, navodi se da je Thorn bio zainteresovan da shvati kako će se rešavati „uska grla u procesu koji ide od procene rizika do naloga za otkrivanje“.
Nalozi za otkrivanje su ključna komponenta procedure utvrđene Predlogom uredbe, kojom se određuje broj ljudi koji će biti pod nadzorom i koliko često.
Izvori u Evropskom parlamentu kažu da je na tehničkim sastancima Zarzalehos, izvestilac o Predlogu, zagovarao naloge za otkrivanje koji se ne moraju nužno fokusirati na pojedince ili grupe osumnjičenih, već su kalibrisani tako da omogućavaju skeniranje u potrazi za sumnjivim sadržajem.
To bi, kažu stručnjaci, otključalo vrata opštem praćenju građana EU, inače poznatom kao masovni nadzor.
Upitan da pojasni ovaj stav, iz kancelarije Zarzalehosa su odgovorili: „O dosijeu se trenutno raspravlja iza zatvorenih vrata među izvestiocima iz senke, pa za sada ne dajemo nikakve komentare“.
Na istom sastanku, predstavnici Thorn-a su izrazili „spremnost da blisko sarađuju s Evropskom komisijom i pruže stručnost kad god je to korisno, posebno u vezi sa kreiranjem baze podataka indikatora koju će voditi EU Centar“ kako bi pripremili „komunikacijski materijal o seksualnom zlostavljanju dece na mreži“.
Centar EU za prevenciju i borbu protiv seksualnog zlostavljanja dece, koji bi bio formiran prema Predlogu, igrao bi ključnu ulogu u pomaganju državama članicama i kompanijama u primeni Uredbe; takođe bi proveravao i odobravao tehnologije skeniranja, kao i kupovao i nudio ih malim i srednjim preduzećima.
Kao proizvođač takvih tehnologija za skeniranje, uloga Thorn-a u podršci izgradnji kapaciteta baze podataka EU centra bila bi od značajnog komercijalnog interesa za kompaniju.
Meredit Vitaker, predsednica Signal fondacije, američke neprofitne fondacije koja stoji iza Signal šifrovane aplikacije, kaže da se kompanije koje proizvode sisteme za skeniranje na bazi veštačke inteligencije efektivno promovišu kao klirinške kuće i bafer za odgovornost za velike tehnološke kompanije, osećajući tržišni potencijal.
„Što više predstavljaju ovo kao veliki problem u javnom diskursu i među regulatorima, to više podstiču velike tehnološke kompanije da prebace rešavanje svojih problema na njih“, rekla je Vitaker u intervjuu za ovu priču.
U stvari, takve kompanije nude tehnološkim kompanijama „besplatnu kartu za oslobađanje od odgovornosti“, rekla je Vitaker, kada im nude: „Vi nama platite (…) a mi ćemo ugostiti heševe, održavaćemo AI sistem, mi ćemo uradite sve što je potrebno da magično rešite ovaj problem”.
„Vrlo je jasno da su oni, bez obzira na njihov status, vođeni sebičnim interesima da promovišu eksploataciju dece kao problem koji se dešava onlajn, a zatim predlože brza (i profitabilna) tehnička rešenja kao lek za ono što je u stvarnosti duboki društveni i kulturni problem. (…) Mislim da vlade ne shvataju koliko su ovi sistemi skupi i skloni greškama, a da mi ne gledamo samo na jednokratne troškove. Gledamo na stotine miliona dolara na neodređeno vreme, zbog obima u kom se ovo predlaže.”
NEDOSTATAK NAUČNOG DOPRINOSA
Johansonova je odbacila ideju da će pristup koji ona zagovara osloboditi nešto novo ili ekstremno, rekavši prošle godine poslanicima Evropskog paralemnta da je „potpuno pogrešno reći da će s novom Uredbom nastati nove mogućnosti za otkrivanje koje danas već ne postoje“.
Ipak, stručnjaci dovode u pitanje nauku koja stoji iza takve tvrdnje.
Metju Danijel Grin, kriptograf i tehnolog IT bezbednosti na Univerzitetu Džon Hopkins, rekao je da postoji očigledan nedostatak naučnog doprinosa u izradi ove regulative.
„U prvoj proceni uticaja Komisije EU skoro da nije bilo spoljnih naučnih doprinosa i to je zaista neverovatno, jer Evropa ima odličnu naučnu infrastrukturu, s vrhunskim istraživačima u kriptografiji i računarskoj bezbednosti “, rekao je Grin.
Tehnologija skeniranja vođena veštačkom inteligencijom, upozorio je on, rizikuje da izloži digitalne platforme zlonamernim napadima i potkopa šifrovanje.
„Ako se dotaknete ugrađenih modela šifrovanja, onda uvodite ranjivosti“, rekao je on. „Ideja da ćemo moći da vodimo šifrovane razgovore, poput našeg, potpuno je nekompatibilna s ovim automatizovanim sistemima za skeniranje, i to po dizajnu.”
Nasuprot zagovornicima skeniranja vođenog veštačkom inteligencijom radi detekcije CSAM-a, američki tehnološki gigant Apple je krajem avgusta rekao da je nemoguće primeniti CSAM skeniranje uz očuvanje privatnosti i bezbednosti digitalnih komunikacija. Istog meseca, britanski zvaničnici su privatno priznali tehnološkim kompanijama da ne postoji tehnologija koja bi mogla da skenira poruke zaštićene end-to-end enkripcijom, bez narušavanja privatnosti korisnika.
Prema istraživanju objavljenom prošlog maja, sistemi za skeniranje na strani klijenta vođeni veštačkom inteligencijom mogli bi lako da se podese da obavljaju prepoznavanje lica na korisničkim uređajima bez znanja korisnika. Upozorili su i na ranjivosti koje tek treba da budu identifikovane.
„Kada se ova tehnologija uvede na milijardama uređaja širom sveta, nema povratka“, rekli su.
Nadležni organi već razmatraju mogućnosti koje nudi ovako zamišljeno skeniranje.
U julu ove godine šefica Generalnog direktorata Johansonove, Monik Paria, posetila je Evropol kako bi, na sastanku kojem je prisustvovala izvršna direktorka Evropola Katrin de Bo, razgovarala o doprinosu koji bi policijska agencija EU mogla dati u borbi protiv CSAM-a.
Zvaničnici Evropola izneli su ideju da se budući EU centar ne koristi samo za skeniranje radi detekcije CSAM-a, rekavši Komisiji da „postoje i druge oblasti kriminala koje bi imale koristi od otkrivanja na ovaj način“. Prema zapisniku, zvaničnica Komisije je „izrazila razumevanje za dodatne želje“, ali je „istakla potrebu da se bude realan u smislu onoga što se može očekivati, s obzirom na mnogo osetljivih pitanja u vezi sa Predlogom“.
Ros Anderson, profesor bezbednosnog inženjerstva na Univerzitetu Kembridž, rekao je da je debata oko skeniranja CSAM-a vođenog veštačkom inteligencijom previdela potencijal za manipulaciju od strane nadležnih organa.
„Bezbednosna i obaveštajna zajednica su uvek koristile pitanja koja plaše zakonodavca, poput zlostavljanja dece i terorizma, da potkopaju privatnost na mreži“, rekao je on.
„Svi znamo kako ovo funkcioniše, i kada dođe do narednog terorističkog napada, nijedan poslanik se neće protiviti proširenju skeniranja radi zaštite dece od zlostavljanja na skeniranje zarad reagovanja na ozbiljne nasilne i političke zločine.
Izvor: BIRN >>