EDRi
European Digital Rights
Predložena Uredba koja utvrđuje pravila za sprečavanje i borbu protiv seksualnog zlostavljanja dece (2022) (CSA Regulation, CSAR) izaziva zabrinutost kao nekompatibilna s osnovnim pravima i sudskom praksom EU – možda više nego bilo koji drugi izvor prava EU u skorije vreme.
Iako se svi akteri slažu oko važnosti cilja – da se zaštite dece – sve do sada sprovedene formalne pravne i tehničke procene su zaključile da bi predložene mere mogle da dovedu do nesrazmernog kršenja prava privatnosti, zaštite podataka o ličnosti i slobodnog izražavanja svakoga na mreži, kao i da se oslanjaju na tehnički neizvodljive ili opasne mere.
Čitajte dalje da vidite kako je širok spektar zainteresovanih strana, uključujući stručnjake za zaštitu dece, žrtve seksualnog zlostavljanja, policiju, nacionalne vlade, zvaničnike UN, kompanije, nevladine organizacije i druge, upozorio da su predložene mere pogrešne i da mogu doneti više štete nego koristi.
Uredba bi mogla da postane osnova za de facto generalizovano i neselektivno skeniranje sadržaja praktično svih vrsta elektronskih komunikacija svih korisnika u EU/EEA
Institucije EU i sudska praksa
Sud pravde EU insistira na snažnoj zaštiti privatnosti, podataka o ličnosti, slobodnog izražavanja, nediskriminacije i drugih osnovnih prava, kako onlajn, tako i oflajn, kako dece, tako i odraslih, na osnovu Povelje o osnovnim pravima. Ozbiljna i rasprostranjena pretnja koju nacrt CSAR predstavlja osnovnim pravima ogleda se u svim formalnim pravnim analizama institucija EU o tom predlogu.
- U Proceni uticaja Evropske komisije (SWD(2022)209) o CSAR priznaje se da ne postoje metode skeniranja koje obezbeđuju potreban nivo privatnosti, bezbednosti i izvodljivosti. Link
- Regulatorni odbor za nadzor Evropske komisije (RSB) upozorio je, pre nego što je nacrt zvanično predstavljen, da bi moglo doći do nezakonitog opšteg nadzora. Link
- U zvaničnom mišljenju pravne službe Saveta EU – u retko viđeno oštroj kritici jednog legislativnog predloga – upozorava se na „ozbiljan rizik“ generalizovanog praćenja, podrivanja enkripcije i kršenja same suštine prava na privatnost. Opis (Link), ceo dokument (Link)
- Evropski supervizor za zaštitu podataka o ličnosti (EDPS) i Evropski odbor za zaštitu podataka o ličnosti (EDPB) upozorili su da će predlog ozbiljno naštetiti nedužnim licima, uz malo ili nimalo dokaza da će zaštititi decu. Link
- U nezavisnoj proceni uticaja preduzetoj u ime Odbora za građanske slobode Evropskog parlamenta (LIBE) procenjena je ravnoteža između zaštite privatnosti korisnika uopšte i prava deteta. Utvrđeno je da nacrtu nedostaju dokazi o delotvornosti i da stoga ne može da se opravda ozbiljna mera u kojoj se krše članovi 7 i 8 (pravo na privatnost i zaštitu podataka o ličnosti) Povelje o osnovnim pravima. Link
- Štaviše, Evropska komisija je priznala da je predlog zasnovan na tvrdnjama o tehničkoj tačnosti koje direktno potiču od dobavljača, a koje nikada nisu nezavisno verifikovane. Link
Omladina
Međunarodna pravila o pravima deteta zahtevaju da se njihovi stavovi ugrade u zakone koji se odnose na njihova prava i bezbednost, kako bi se poštovala njihova autonomija.
Prema obimnom reprezentativnom istraživanju 80% maloletnika u EU kaže da se ne bi osećalo prijatno i bezbedno da budu politički aktivni ili da istražuju svoju seksualnost kada bi državni organi bili u mogućnosti da prate njihovu digitalnu komunikaciju u cilju pronalaženja materijala o zlostavljanju . Link
Ista anketa pokazuje da se oko dve trećine maloletnika u EU oslanja na usluge šifrovanih poruka za komunikaciju, a otprilike isti broj se ne slaže ili se potpuno ne slaže sa pretpostavkom da provajderima treba dozvoliti da skeniraju njihove privatne razgovore. Umesto toga, ispitanici u velikoj meri favorizuju poboljšanje medijske pismenosti i mehanizama izveštavanja.
Mladi aktivisti upozoravaju da bi ih CSAR potisnuo. Link
Žrtve seksualnog zlostavljanja
- Aleksander Hanf upozorava da će CSAR obeshrabriti preživele da traže podršku. Link
- Predstavnička grupa preživelih MOGiS e.V. upozorava da će predlog štetiti žrtvama i drugim mladim ljudima. Link
- Zamenik predsednika MOGiS e.V. je, kao predstavnik žrtava seksualnog zlostavljanja, razgovarao s poslanicima Evropskog parlamenta kako bi ih upozorio na to kako će Uredba učiniti više štete nego koristi za preživele, i kako je predloženi pristup Komisije “fundamentalno pogrešan”. Link
- Žrtva Marsel Šnajder tužio je Fejsbuk zbog automatskog skeniranja privatnih poruka, uklanjanja poverljivosti za žrtve zlostavljanja i optužene. Link
- Kako je istakao Patrik Brejer, poslanik u Evropskom parlamentu, nekoliko preživelih je takođe dalo povratne informacije o predlogu Uredbe, kritikujući ga zbog nanošenja štete preživelima. Link (EN), Link (DE)
- Veisser Ring, nemačka grupa za podršku deci žrtvama seksualnog zlostavljanja, i APAV, portugalsko udruženje za podršku žrtvama, zajedno upozoravaju da bi, uprkos važnim ciljevima, predlog mogao naštetiti poverljivim komunikacijama, dovodeći ljude u opasnost od ucene i prevare, do lažnih pozitivnih rezultata i da nosi sa sobom rizik od masovnog nadzora, dok mu nedostaju dokazi o efikasnosti. Link
Stručnjaci za prava deteta i zaštitu dece
- Stručnjak za pitanja zaštite dece na mreži, dr Sabine K. Viting, upozorila je da bi predloženo detektovanje kriminalizovalo samoizražavanje između adolescenata u međusobnoj, konsesualnoj komunikaciji. Link
- Nemačka dežurna linija za zaštitu dece, Eco, naziva predložene mere u CSAR-u „suštinski upitnim“. Link
- Holandska dežurna linija za zaštitu dece, EOKM (poznata kao Offlimits), često je upozoravala da će mere generalizovanog skeniranja verovatno biti štetne i neefikasne (npr. link ). Osnivač EOKM-a, Arda Gerkens, upozorava da predlog CSAR „ide predaleko“. Link
- Nemačko udruženje za zaštitu dece Kinderschutzbund upozorilo je da su predložene mere nesrazmerne i verovatno neefikasne. Link
- Holandski nacionalni izvestilac za trgovinu ljudima i seksualno nasilje nad decom, Koni Rijken, pisala je o pretnjama osnovnim pravima i nedostatku dokaza o efikasnosti predloženih mera. Link
Policija i javni tužioci
- Javni tužioci u Nemačkoj upozorili su da im CSAR neće pomoći da pronađu počinioce, jer se ne bavi stvarnim pitanjima sa kojima se oni suočavaju. Link
- Policajci specijalizovani za zaštitu dece u Nemačkoj upozorili su da predložene mere neće pomoći u pronalaženju više počinilaca, nego će dovesti do porasta broja lažnih uzbuna. Link
- Visoki policajski službenik u Holandiji upozorio je da policija neće moći da se nosi sa velikim obimom prijava koji predviđa kao rezultat Uredbe. Link
- FBI je upozorio članove Evropskog parlamenta iz odbora LIBE u misiji u Vašingtonu u maju 2023. da „već sada oni [FBI] nemaju dovoljno resursa da se pozabave svim slučajevima seksualnog zlostavljanja koje otkriju i da treba da daju prioritet nekim od njih . Iz ove perspektive, masovno skeniranje komunikacije ne bi rezultiralo povećanjem broja istraga”. Link
IT stručnjaci
- U vreme pisanja ovog teksta, 465 naučnika i predstavnika akademske zajednice u oblasti sajber bezbednosti, privatnosti i srodnih oblasti upozorilo je da su predložene mere opasne i neodržive. Link
- 47 nevladinih organizacija za digitalna ljudska prava u EDRi mreži upozorilo je da će predlog ugroziti svačiju onlajn privatnost i slobodno izražavanje i da nema dokaza da će postići svoje ciljeve, te da stoga mora biti odbačen. Link
- Istraživači feministi tehnologije upozoravaju da CSAR predstavlja paternalistički i obeshrabrujući pristup rodno zasnovanom nasilju. Link
- Istraživači tehnologije u javnom interesu u Evropi upozorili su na mere koje je predložio CSAR. Link
- Savet evropskih profesionalnih informatičkih društava (CEPIS) upozorio je na pretnju šifrovanju. Link
- Istraživači sa TU Delft upozoravaju da su tehnološke tvrdnje na kojima je zasnovan CSAR obmanjujuće ili lažne. Link
- Profesor Metju Grin upozorava, između ostalih ozbiljnih zabrinutosti, na rizik od “trovanja” slika kako bi se manipulisalo tehnologijama skeniranja. Link
- Predsednica Fondacije Signal, Meredit Vitaker, upozorila je na veliki rizik od masovnog nadzora. Link
- 14 eminentnih naučnika upozorava na „bagove u našim džepovima“ ili na opasnosti skeniranja na strani klijenta, metodu koju je predložila Evropska komisija kako bi se izvršile naredbe za otkrivanje koje je predložio CSAR. Akademici objašnjavaju da su ove metode neefikasne, sa velikim potencijalom za zloupotrebu. Link
- Profesor sajber bezbednosti i politike, dr Suzan Landau, upozorila je da „jednostavno ne postoji tehnologija“ koja bi radila ono što CSAR želi da uradi. Link
- Edvard Snouden upozorava da je CSAR „autoritarni“ potez koji bi ograničio „osnovnu ljudsku slobodu“. Link
- Stručnjak za bezbednost Alek Mufet naziva predlog „ratom protiv E2E enkripcije“. Link
- Profesor bezbednosnog inženjerstva, Ros Anderson, ističe ne samo tehnička pitanja u vezi sa predlogom uredbe, već i njegov neuspeh da se bavi širim društvenim pitanjima koja vode ka seksualnom zlostavljanju dece, kao i druge strateške probleme u vezi sa razvojem i prodajom tehnologija za nadzor. Link
- Profesor Anderson dalje naglašava istraživanja koja pokazuju da centralizovano uklanjanje, kako je predloženo u CSA uredbi, može dodati nedelje vremenu potrebnom za uklanjanje CSA sa interneta. Link
Nezavisne pravne procene
- Pravna procena Instituta za pravo informaciono pravo Univerziteta u Amsterdamu potvrdila je pretnju šifrovanju. Link
- Direktorka CDT-a, Iverna Mekgovan, bivša viša savetnica u Kancelariji visokog komesara UN-a za ljudska prava, upozorava da su predloženi nalozi za otkrivanje zasnovani na pogrešnoj logici koja bi potkopala proceduralna prava i pretpostavku nevinosti. Link
- Docenti na Univerzitetu u Lajdenu, Centru za pravo i digitalnu tehnologiju, dr Viting i dr Lajzer, upozoravaju da predlog verovatno krši zabranu EU o opštem praćenju, a njegove mere moderiranja sadržaja mogu da dovedu decu u opasnost. Link
- Bivši sudija Suda pravde EU, profesor dr Ninon Kolnerik, objavio je procenu da bi filtriranje na generalizovan i neselektivni način bilo nekompatibilno sa sudskom praksom EU. Link
- Istraživač pri Centru za pravo informacionih tehnologija i zaštitu intelektualne svojine, KU Luven, Šarlot Somers, naziva predlog „napadom na privatnost i zaštitu podataka Evropljana“ i ukazuje na veliku verovatnoću poništenja od strane Suda pravde EU. Link
Vlade i parlamenti država članica
- 🇵🇱 Vlada Poljske je osudila CSAR zbog rizika od masovnog nadzora. Link
- 🇦🇹 Austrijski Parlament se složio da odbaci CSAR osim ako se ne može garantovati zaštita šifrovanja, ne sadrži opštu obavezu praćenja i poštuje ljudska prava. Sve stranke u austrijskom parlamentu glasale su protiv predloga CSAR-a. Link
- 🇪🇪 🇫🇮 🇲🇹 🇮🇹 🇳🇱 Vlade Estonije, Finske, Malte, Italije i Holandije ukazale su ozbiljne probleme. Link
- 🇸🇪 Vlada Švedske je pokušala da u potpunosti zaštiti E2E enkripciju od predloženih mera i da zaustavi opšti nadzor. Link
- 🇫🇷 Rezolucija francuskog Senata upozorava na rizike u mnogim delovima predloga, posebno u vezi sa potragom za „nepoznatim” materijalom i grumingom. Link
- 🇮🇪 Odbor za pravosuđe irskog Parlamenta izrazio je ozbiljnu zabrinutost u vezi sa CSAR-om. Link
- 🇩🇪 Digitalni komitet nemačkog Parlamenta ugostio je stručnjake, uključujući policiju i stručnjake za zaštitu dece, i naišao je na jednoglasne kritike CSAR-a. To je dovelo do toga da je komitet izrazio svoju zabrinutost. Link
- 🇩🇪 Pravna služba nemačkog Parlamenta smatra mere iz Predloga merama opšteg praćenja, koje predstavljaju kršenje Povelje o osnovnim pravima. Nadalje upozorava da bi predložene mere mogle biti usvojene u drugim oblastima. Link
- 🇦🇹 🇩🇪 Vlade Austrije i Nemačke su se obavezale da će u potpunosti zaštititi E2E enkripciju od ove uredbe. Link
- 🇨🇿 Odbor za ljudska prava češkog Parlamenta izrazio je ozbiljnu zabrinutost za ljudska prava, posebno u vezi sa zaštitom šifrovanja. Link
- 🇳🇱 Poslanici u holandskom Parlamentu usvojili su predlog kojim pozivaju Vladu da ne dozvoli sprovođenje CSAR-a koji bi – prema nacrtu – poništio E2E enkripciju i narušio pravo na poverljivost komunikacija. Link
- 🇩🇰 Opozicione političke partije u Danskoj upozorili su da taj predlog krši duh danskog Ustava. Link
- 🇨🇭 Švajcarski Parlament je velikom većinom odobrio predlog protiv CSAR-a. Link
Parlament EU
- 14 poslanika iz LIBE komiteta, koji dolaze iz 4 političke grupe, zahtevaju odbacivanje CSAR-a. Link
- Njima se pridružuju mnogi poslanici u Komitetu za interna tržišta koji su kritikovali obim predloga, pretnju šifrovanju koje njegove mere predlažu i ozbiljne rizike koje predstavljaju nalozi za otkrivanje, a poslanici iz Renew grupe, Han i Korner, predlažu potpuno brisanje ovih delova. Link
- Poslanik Dejvid Lega (EPP), kopredsedavajući Međugrupe Evropskog parlamenta za prava deteta, govori protiv predloga CSAR-a. Link
- Gore pomenuta komplementarna procena uticaja na CSAR u ime LIBE komiteta je dodatno potvrdila nedostatak proporcionalnosti i usklađenosti sa osnovnim pravima. Link
Kompanije
- Microsoft je upozorio da navedena cifra od 88% tačnosti otkrivanje gruminga, koju je iznela Evropska komisija, nije pouzdana (pogledati posebno aneks 9, strane 285 – 315). Link
- Članak korisnika PhotoDNA Cloudflare pokazuje lakoću generisanja lažnih upozorenja, uprkos tvrdnjama programera PhotoDNA dr Hanija Farida (na koje se Evropska komisija oslonila u nacrtu CSAR-a) da je to retkost od 1 na 50 milijardi. Link
- 9 evropskih industrijskih udruženja koja predstavljaju članove kao što su Google, Meta, Microsoft i Mozilla izrazili su zabrinutost u aprilu 2023. godine. Link
- LinkedIn izveštava o stopi lažno pozitivnih od 59% za trenutnu dobrovoljnu upotrebu PhotoDNA, što je u velikoj suprotnosti sa preciznošću PhotoDNA koju često navode Evropska komisija i drugi zagovornici CSAR-a. Link
- 13 evropskih industrijskih asocijacija koje predstavljaju veliki broj tehnoloških kompanija i provajdera upozorilo je u septembru 2023. da ne pristaju na mere koje bi potkopale šifrovanje i dovele do opšteg nadzora. Link
- Konfederacija industrije Češke Republike, u saradnji sa industrijskim grupama u Danskoj, Poljskoj i Francuskoj, pisala je komesaru Johansonu, a špansko predsedništvo Saveta EU ukazalo je na zabrinutost. Link
Privacy-tech kompanije i udruženja
- Švedska VPN kompanija Mullvad VPN objašnjava tehnološke probleme sa CSAR-om. Link
- Izvršni direktor ProtonMail-a objašnjava da su zabrinuti zbog CSAR-a i pretnje koju on predstavlja za šifrovanje i privatnost. Link
- ProtonMail je dodatno naglasio važnost šifrovanja za industriju EU, konkurentnost i suverenitet. Link
- Finski klaster informacione bezbednosti (FISC), koji predstavlja finsku industriju sajber bezbednosti, upozorio je na CSA uredbu, podsećajući na njihov rad na obezbeđivanju krivične odgovornosti za krivično delo onlajn dečje pornografije. Link
Ujedinjene nacije
- Visoki komesar UN-a za ljudska prava upozorava na rizik od generalizovanog nadzora. Link
Profesionalna udruženja (novinari, advokati itd)
- Dva najveća austrijska novinarska udruženja upozorila su na CSAR i rizik od narušavanja ustavne zaštite slobode novinara i izvora. Link
- Austrijsko udruženje advokata ocenilo je i upozorilo da predlog podriva osnovna prava. Link
- Komitet za nadzor nemačke advokatske komore objavio je stav po kom, iako podržavaju cilj nacrta uredbe, ističu kritiku predložene automatizovane masovne analize komunikacionih podataka (sadržaja). Link
- Savet advokata i pravnih društava Evrope (CCBE), koji se sastoji od pravnih udruženja iz 46 evropskih zemalja koje se zalažu za demokratiju, vladavinu prava i demokratske vrednosti, izražava zabrinutost u vezi sa pretnjom po privatnost i opasnostima po profesionalnu tajnu i profesionalnu privilegiju, kao i zbog delegiranja zaštite osnovnih prava privatnim licima. Link
Civilno društvo
- 134 nevladine organizacije za zaštitu širokog spektra ljudskih prava, digitalnih prava, prava deteta, prava žena i bezbednosti na mreži pozvale su EU da odbaci CSAR. Link
- Belgijske nevladine organizacije postavljaju pitanje da li belgijska vlada ne uspeva da zaštiti ljudska prava time što se ne protivi generalizovanom nadzoru u pregovorima o CSAR-u. Link
- Više od 11.000 Evropljana traži od EU da preispita ovaj opasan i pogrešan zakon. Link
- Pisani odgovor na pitanja koja je postavio nemački parlament, autora Ele Jakubovske, višeg savetnika za politiku, EDRi. Link
Kontroverza iz 2023
U septembru 2023. istraga, koju su sproveli novinari i koja je objavljena je u medijima širom Evrope, pokrenula je optužbe o sukobu interesa od strane komesara Johansona i osoblja DG HOME. Ovi navodi uključuju olakšavanje pristupa kompaniji sa komercijalnim interesima, Thorn, i dovode u pitanja legitimnost i etiku Komisije u procesu pripreme CSA Uredbe:
- Izvorna priča: Balkan Insight (EN)
- Zeit (DE)
- Le Monde (FR)
- De Groene Amsterdammer (NL)
- El Diario (ES)
- IRPI Media (IT)
- Solomon (GR)
- Dodatni izveštaji sa detaljima o zahtevu Evropola da se Uredba u budućnosti proširi, kako bi se omogućilo skeniranje drugih vrsta sadržaja. Link
-
Netzpolitik (DE)
Odbor Evropskog parlamenta za građanske slobode (LIBE) pisao je Komesaru da zatraži objašnjenje, a zatim je dobio odgovor od Thorna i komesara Johansona: