Chat Control to podstęp
Kontekst
Prawo nazywane potocznie „Chat Control” cały czas jest przedmiotem negocjacji w Komisji Europejskiej i finalny kształt nadal nie jest pewny. W poniższym tekście krytykuję następujący pomysł:
Wymuśmy na dostawcach usług internetowych skanowanie prywatnej korespondencji przez AI. Gdy AI wykryje CSAM (materiał pokazujący seksualne wykorzystywanie dziecka), niech automatycznie wyśle dowody do wskazanej instytucji unijnej. Jeśli usługa oferuje szyfrowanie E2EE, niech skanowanie następuje, zanim wiadomość zostanie zaszyfrowana.
Mylące procenty
Wyobraźmy sobie narzędzie do automatycznego wykrywania CSAM, którego autorzy chwalą się, że osiąga aż 90% skuteczności. Nazwijmy je Skaner. Dla naszego mózgu to brzmi dobrze, ponieważ jesteśmy beznadziejni w rozumieniu dużych liczb.
Na komunikatorach dziennie są wysyłanie miliardy wiadomości. Przyjmijmy więc, że wśród 10 miliardów wiadomości (10 000 000 000) system zgłosił 0,1% z nich, czyli 10 milionów. Wśród nich aż 10% nie ma nic wspólnego z dziecięcą nagością. Czyli milion wiadomości dziennie zostaje poddane zupełnie nieuprawnionej inwigilacji.
Jeszcze żeby chociaż pozostałe 90% z pewnością były dowodem przestępstwa, ale nic z tych rzeczy. Aby to zrozumieć, musimy się przyjrzeć, w jakim kontekście może powstać pikantny materiał z dzieckiem.
Klątwa wiedzy
Klątwa wiedzy to określenie w psychologii na tendencję do niezdawania sobie sprawy, że ktoś może nie wiedzieć czegoś, co my wiemy. „To przecież oczywiste!”. Trudno nam sobie wyobrazić myślenie człowieka bez naszej wiedzy. Stąd „klątwa” w nazwie.
Jeśli jesteś osobą względnie ogarniętą w sprawach cyfrowych, to zapewne skrzywisz się na myśl, żeby przesłać w komunikatorze zdjęcie swojego dziecka w kąpieli. Albo zdjęcie dziecka biegające po plaży bez majtek. Jednakże wielu rodziców nie widzi w tym nic niestosownego. Nie przyjdzie im nawet do głowy, że ktoś mógłby odebrać te zdjęcia jako materiał seksualny. Dla ludzi rzadko konsumujących media to wcale nie jest oczywiste, że istnieje coś takiego jak pedofilia oraz dziecięca pornografia. Nigdy nie czuli podniecenia na widok dziecięcych pośladków, więc skąd mają wiedzieć, że inni czują?
Nasz Skaner takie zdjęcia oczywiście oflaguje jako CSAM i prześle do Europolu. Jakiś obcy człowiek będzie oglądać zdjęcia nagiego dziecka, żeby upewnić się, że Skaner poprawnie to oflagował. Być może rozpocznie postępowanie, przez co rodzice będą ciągani na policję i zmuszeni do tłumaczenia się z prywatnych zdjęć własnego dziecka, które w zamyśle nie miały być oglądane przez kogokolwiek poza rodziną.
Dochodzi jeszcze jeden aspekt. Kilkulatki często uważają „pupy i siusiaki” za najśmieszniejszą rzecz na świecie i – jeśli mają dostęp do komunikatorów – mogą chcieć się podzielić tą śmiesznością z kolegami. Nikt z konwersacji nie odbiera tego jako materiał seksualny i po kilku dniach zapewne o tym zapomną. Może po latach wspomną jako potworny cringe. No ale nasz Skaner czegoś takiego nie odpuści i oczywiście prześle do Europolu. Chwilowy brak rozsądku poskutkuje uwiecznieniem „śmiesznego siusiaczka” w materiałach policyjnych. Być może wyląduje w jakiejś wiecznej bazie danych i będzie krążył tam na dobre.
Inne materiały, które Skaner nadgorliwie zgłosi:
– poufne zdjęcie nastolatki, która martwi się o swoje ciało i pyta zaufaną koleżankę o opinię
– materiał wysłany lekarzowi do oceny
– treść edukacyjna
Rządowe agencje to nie same anioły
Hollywoodzkie filmy skutecznie zbudowały u nas wyobrażenie, że tajni agenci to istni nadludzie, którzy zawsze chcą nieść dobro. A ewentualne bariery biurokracji to niepotrzebna przeszkoda, przez którą źli ludzie unikają kary.
Zupełnie inny obraz wyłonił się, gdy Edward Snowden w 2013 postanowił pokazać etyczność służb od środka. Z ujawnionych informacji dowiedzieliśmy się chociażby, że osoby pracujące w NSA używały narzędzi inwigilacji to stalkowania swoich dziewczyn oraz osób, z którymi umawiali się na randki. Było to na tyle znormalizowane, że doczekało się wewnątrz żartobliwego kryptonimu LOVEINT (od ang. „Love Intelligence”, „szpiegostwo miłosne”).
Istnieje też mit, że agencje rządowe dysponują super zaawansowanymi technologiami, które wyprzedzają urządzenia użytkowe o dziesięciolecia. Gdy tylko postawisz nogę w niedozwolonej strefie, znikąd pojawi się pięciu facetów z laserami. W rzeczywistości agencje rządowe są często mocno w tyle do tego, co oferują chociażby cyfrowe korporacje. Z informacji ujawnionych przez Snowdena wiemy, że NSA chętnie korzystało z infrastruktury szpiegującej dostarczanej przez BigTechy. Bo sami o podobnej skali mogli tylko pomarzyć.
Więcej o tym, co ujawnił Snowden.
Co więc się stanie z danymi, które prześle nasz Skaner? Czy wszyscy użyją ich wyłącznie w etycznych celach? Czy nigdy nie zostaną wykradzione przez przestępców albo obce wywiady? Czy żaden polityk nigdy nie użyje ich w niecnych zamiarach?
Zobacz też: Policjant sprzedawał poufne dane – TVP
Przestępcy łatwo unikną nadzoru
Prawdziwi miłośnicy CSAM łatwo unikną skanu. Wystarczy, że prześlą pliki w formie zaszyfrowanego archiwum, które przygotują chociażby darmowym 7zip albo VeraCrypt.
Alternatywnie mogą skorzystać z otwartoźródłowych komunikatorów P2P, które przesyłają dane bezpośrednio między użytkownikami, bez pośrednika.
Inwigilacją najmocniej oberwą zwyczajni ludzie, a sprytni przestępcy nadal będą poza zasięgiem.
Autorzy sami nie ufają tej technologii
Regulacja zwalnia z obowiązku niepubliczne kanały komunikacji stosowane przez służby bezpieczeństwa. Ciekawe czemu? Czyżby służby jednak wiedziały, że w ten sposób prywatne dane będą wyciekać? Dlaczego nie chcemy powstrzymać służb przed rozsyłaniem straszliwego CSAM? Skoro „uczciwi nie mają się czego obawiać”, to znaczy, że nasze służby postępują nieuczciwie?
Potrzebuję prywatności nie dlatego, że moje działania są podejrzane, ale dlatego, że podejrzane są Twoje osądy i intencje.
Podsumowanie
Mam nadzieję, że jasno pokazałem, dlaczego uspokajającą propagandę wokół Chat Control można włożyć między bajki.
Nie daj się nabrać na skaner AI, który myli się „tylko” w 10% przypadków. Nie daj się nabrać, gdy ktoś deklaruje, że każda wiadomość z małym siusiaczkiem musi być przedmiotem śledztwa. Nie daj się nabrać, gdy agencje zapewniają, że mają kosmiczne zabezpieczenia i personel czysty jak łza. To wszystko ma uśpić Twoją czujność.
Gdy narzędzie masowej inwigilacji zostanie wprowadzone, ciężko będzie to odkręcić. Ludzie przyzwyczają się do tego, co jest i zaczną akceptować jako element rzeczywistości. I właśnie o to tak na prawdę chodzi.
Zobacz też
Navbox o prywatności:
Navbox o psychologii:
