Nieuwe EU regels tegen kinderporno: de risico's

[DeNachtwacht]

Hey,

Ik zag een paar weken geleden een vrij indrukwekkend interview met Michel Portier op YouTube over de nieuwe Europese filter wetgeving, en hoe zorgelijk deze zijn volgens hem:

YouTube: Nieuwe EU-wetgeving op komst: leest de EU straks mee op jouw telefoo...

Ik vroeg me even af of ik het hier moest posten of juist eerder in een technischer forum omdat ik zijn argumentatie waarom deze wetgeving zinloos is, vrij logisch vind klinken, maar zelf ook weer niet genoeg van de hoed en de rand weet om te zeggen of hij 100% een punt heeft.

Kort gezegd zijn er dus vergevorderde plannen in de EU om kinderporno verspreiding tegen te gaan door van al deze plaatjes een hash te maken en die hashes in een database / ‘zwarte lijst’ op te slaan. Zo zijn de plaatjes zelf dus nergens opgeslagen, maar wie in zijn whatsapp/mail/socials één van die plaatjes deelt krijgt meteen hoog bezoek omdat die hash dan natuurlijk de alarmbel af laat gaan.

Zijn stelling is; bovenstaande oplossing is geen oplossing, want wat een crimineel simpelweg kan doen is 2 of meer illegale plaatjes in een zip-bestand samenvoegen (of desnoods met wat legale files om pakkans verder te verkleinen). Dat zip-bestand is vervolgens zonder enig risico om gepakt te worden te versturen want die heeft een eigen, unieke hash. Enige waar de crimineel dan dus op moet letten is dat elke keer dat iets gedeeld wordt, het met een paar willekeurige andere files wordt gedaan om te voorkomen dat ook de hashes van bepaalde veelgestelde zipbestanden natuurlijk in de database terecht zouden kunnen komen.

Dit komt op mij vrij logisch en kloppend over, kortom in dat geval wordt er nu een miljardensurveillance opgetuigd met natuurlijk een goed doel, maar die helemaal niet gaat werken. Als de oplossing om het te omzeilen zo simpel is, wist iedere “professionele crimineel” het al voor Portier het deelde.

Waarom zet de EU de plannen dan toch nog steeds door?

Verzoek overigens om in te gaan op de technische discussie of dit aankomende filter inderdaad gewoon zo lek is als hij beweert. Liefst van mensen die hier dus ook professioneel ervaring mee hebben en iets over kunnen zeggen.

Een politieke discussie over je zo’n filter wel of niet moet willen ben ik niet op uit. En die is ook niet relevant, want natuurlijk is iedereen tegen kinderporno, het lijkt alleen alsof je het hiermee niet oplost maar daarmee wel vrij vergaande privacyschending krijgt (zie daarvoor het interview).

Alvast bedankt voor jullie visie erop.

[Pendora]

De eerste stap is een vaste lijst met hashes van bekende bestanden die illegaal zijn. Tweede stap is een leerende systeem die gaat proberen de bestanden te analyseren of er illegale dingen op staan.

Maar zijn punt dat je het via RAR of ZIP kan versturen is correct.
Je kan ook nog in de toekomst een andere linux distro op je android telefoon installeren die de gehele controle niet bevat.

Waarom dan toch? Gaan we uit van de goede bedoelingen dan komt het erop neer dat je een deel kan tegenhouden. Ook is een optie dat de EU gewoon geen verstand heeft van zaken.
Ga je meer naar conspiracy gedachten dan ga je de kant op dat de EU exact wil weten wat iedereen doet op de telefoon en niet gewenste informatie kan filteren.

Het is overigens geen pedofiel materiaal filter, het is een algemeen filter die wordt ingesteld op afbeeldingen met pedo materiaal maar het filter zelf kan alles filteren. Er is geen enkele technische limitatie op afbeeldingen.

[Duke of Savage]

Wist je dat een systeem een zip bestand kan uit pakken om de content te scannen?
Virusscanners willen dat ook wel eens doen. 🤯

[YakuzA]

DeNachtwacht schreef op dinsdag 29 oktober 2024 @ 19:21:
Zo zijn de plaatjes zelf dus nergens opgeslagen, maar wie in zijn whatsapp/mail/socials één van die plaatjes deelt krijgt meteen hoog bezoek omdat die hash dan natuurlijk de alarmbel af laat gaan.

Zijn stelling is; bovenstaande oplossing is geen oplossing, want wat een crimineel simpelweg kan doen is 2 of meer illegale plaatjes in een zip-bestand samenvoegen (of desnoods met wat legale files om pakkans verder te verkleinen). Dat zip-bestand is vervolgens zonder enig risico om gepakt te worden te versturen want die heeft een eigen, unieke hash.

Dit zijn natuurlijk weer varianten van drogredenen

No way dat er politie capaciteit is om bij 1 verkeerd plaatje in een random whatsapp groep (wat encrypted is dus niet te scannen ) of per email in te grijpen.

De 2e is een valse omdat dat een regel relatief makkelijk te omzeilen is natuurlijk geen enkele reden is om dan maar niks te doen.
Dat moordenaars moeilijk te pakken zijn, betekend niet dat we ineens moord maar moeten accepteren

[PeaceNlove]

Duke of Savage schreef op woensdag 30 oktober 2024 @ 12:37:
Wist je dat een systeem een zip bestand kan uit pakken om de content te scannen?
Virusscanners willen dat ook wel eens doen. 🤯

Zet je een password op de zip. Zo vaak dat ik naar klanten een zip opstuur met wat python code en dat de mailserver dat dan weigert. 1 minuut later mailt hetzelfde verzendende adres nogmaals een zip met een wachtwoord er op en die mailserver vind het vervolgens prima en het komt aan bij de klant. Ik ben bang dat ze een hoop AI fancypancy dingen gaan maken voor deze wet om al die plaatjes te scannen en dat de meest debiele workaround het al voorkomt… waarbij de goeden dus te lijden hebben en de kwaden gewoon met weinig extra moeite doorgaan met wat ze deden

[Pendora]

YakuzA schreef op woensdag 30 oktober 2024 @ 12:50:
[...]

No way dat er politie capaciteit is om bij 1 verkeerd plaatje in een random whatsapp groep (wat encrypted is dus niet te scannen ) of per email in te grijpen.

Het idee is juist dat de plaatjes worden gescand voor je het post. Dus dat het niet gepost kan worden. De encryptie is in dit geval een stap later en heeft geen invloed op het scannen.

Stel het is nieuw beeldmateriaal waarvan de politie/instantie nog niet op de hoogte is en deze "gewoon" verzonden kan worden en je zou hem opslaan in je foto bibliotheek, dan kan er via dit systeem alsnog achteraf gevonden worden.

[Davidshadow13]

Mailservers (veel) zijn nog dom en vaak outdated als het gaat om het scannen van bijlages e.d. Standaard password protection op ZIP of RAR archives is niet dermate complex dat dit niet gekraakt kan worden.

Wat meerdere mensen echter aangeven is dat elk medium dat E2E encrpytie ondersteunt voor de communicatie deze methode (kijken na het plaatsen of versturen) niet werkt. Ik geloof dat er ooit discussie is geweest om een aantal applicaties / platformen aan te sluiten op deze database om client content te scannen voordat deze verstuurd wordt.

Maarja daar werk je ook makkelijk om heen door je eigen E2E encrpytie te gebruiken of een dienst die niet meedoet aan backdoors van de EU/VS zoals Protonmail.

[T-MOB]

DeNachtwacht schreef op dinsdag 29 oktober 2024 @ 19:21:

Zijn stelling is; bovenstaande oplossing is geen oplossing, want wat een crimineel simpelweg kan doen is 2 of meer illegale plaatjes in een zip-bestand samenvoegen (of desnoods met wat legale files om pakkans verder te verkleinen). Dat zip-bestand is vervolgens zonder enig risico om gepakt te worden te versturen want die heeft een eigen, unieke hash. Enige waar de crimineel dan dus op moet letten is dat elke keer dat iets gedeeld wordt, het met een paar willekeurige andere files wordt gedaan om te voorkomen dat ook de hashes van bepaalde veelgestelde zipbestanden natuurlijk in de database terecht zouden kunnen komen.

Technisch is het inderdaad niet te voorkomen dat de plaatjes van A naar B verzonden worden. Al is het maar omdat er altijd de mogelijkheid bestaat om een afdruk van een foto fysiek te versturen.
De andere kant is dat een gezipte foto altijd moet worden ge-unzipt om hem te kunnen bekijken. Als de foto-viewers van Apple en Android deze blacklist geimplementeerd krijgen dan wordt het bekijken van ongewenst materiaal wel ernstig gehinderd. Qua aanpak vind ik een fingerprint-database (die lokaal draait) zo gek nog niet. Beter dan dat idee wat Apple eerst had om je foto's met een AI te analyseren.

Desalsniettemin ben ik geen voorstander. Want als je de poespas eenmaal hebt opgetuigd voor kinderporno, waarom zou je het niet gebruiken voor andere ongewenste afbeeldingen.

[ErikT738]

Volgens mij hebben ze het inmiddels al een keer of drie geprobeerd, en blijven ze dergelijke wetgeving pushen totdat het wordt aangenomen. Het gestelde doel is uiteraard iets waar je het maar lastig mee oneens kan zijn (bestrijding van kinderporno), maar uiteindelijk is dat enkel om het er doorheen te krijgen. Het daadwerkelijke doel is gewoon meer controle over de burger.

[DeNachtwacht]

Mja ik ben minder van de complottheorieën, maar dat kinderporno gebruikt wordt om iets er doorheen te drukken is helaas natuurlijk een mogelijkheid.

Ik snap alleen niet dat de grote media / politieke partijen dit punt niet oppakken, @YakuzA daar is niets drogreden aan. Om maar even een mooie keurig kloppende redenering te gebruiken om jouw argument tegen te spreken: als er nu een plan komt om messen EU breed te verbieden om daarmee moord te voorkomen, doe je precies hetzelfde als deze nieuwe wet. Je benadeelt massaal onschuldige burgers, en blijft de plank misslaan want moordenaars pakken massaal andere wapens.

Als het echt zo simpel is om het te omzeilen heeft optuigen van zo’n aanpak geen zin. Maar nogmaals, zijn er mensen hier die van de technische kant van hashes, deze wetgeving en/of encryptie meer verstand hebben en kunnen inschatten of deze man een punt heeft?

Zoals al gezegd ging het me niet zozeer om een discussie wel of niet politie-aanpak op dit soort zaken want daar is iedereen het wel over eens. Ja, dat moet. De vraag was of deze aanpak een totaal zinloze manier van geld weggooien en burgerrechten inperken is, of dat er toch technische argumenten te bedenken zijn daardoor het effect gaat hebben.

[ Voor 27% gewijzigd door DeNachtwacht op 30-10-2024 14:54 ]

[YakuzA]

DeNachtwacht schreef op woensdag 30 oktober 2024 @ 14:51:
Ik snap alleen niet dat de grote media / politieke partijen dit punt niet oppakken, @YakuzA daar is niets drogreden aan. Om maar even een mooie keurig kloppende redenering te gebruiken om jouw argument tegen te spreken: als er nu een plan komt om messen EU breed te verbieden om daarmee moord te voorkomen, doe je precies hetzelfde als deze nieuwe wet. Je benadeelt massaal onschuldige burgers, en blijft de plank misslaan want moordenaars pakken massaal andere wapens.

Uhm, ja, als de politie je op straat treft met een (groot/specifiek) mes wordt die ook al gewoon afgenomen.

Messen, zoals stiletto's, valmessen en vlindermessen zijn strikt verboden. Heeft u een valmes, vlindermes of stiletto op zak, dan krijgt u een boete.

[T-MOB]

DeNachtwacht schreef op woensdag 30 oktober 2024 @ 14:51:
Ik snap alleen niet dat de grote media / politieke partijen dit punt niet oppakken, @YakuzA daar is niets drogreden aan. Om maar even een mooie keurig kloppende redenering te gebruiken om jouw argument tegen te spreken: als er nu een plan komt om messen EU breed te verbieden om daarmee moord te voorkomen, doe je precies hetzelfde als deze nieuwe wet. Je benadeelt massaal onschuldige burgers, en blijft de plank misslaan want moordenaars pakken massaal andere wapens.

Mensen die geen kinderporno delen hebben toch geen last van deze wet. Er is geen legitiem doel voor kinderporno. Overigens hoef je maar naar de USA te kijken om te zien dat er wel een verband bestaat tussen de hoeveelheid wapens in omloop en het aantal moorden. Er zijn in Europa heus wel wapens, maar een belemmering opwerpen werkt.

Het grote probleem met deze wet is dat er een mechanisme wordt opgetuigd om communicatie te kunnen belemmeren op basis van de inhoud. Nu nog net het nobele doel om kinderporno tegen te gaan. Maar je hoeft geen alu-hoedje te hebben om koude rillingen te krijgen bij wat Trump en Musk met zo'n filter kunnen doen. Of een kliek Poetin-vriendjes als Orban, Le Pen en onze eigen blonde leider.

[DeNachtwacht]

T-MOB schreef op woensdag 30 oktober 2024 @ 15:22:
[...]

Mensen die geen kinderporno delen hebben toch geen last van deze wet. Er is geen legitiem doel voor kinderporno.

Als je zijn filmpje kijkt is het hele punt waarom het lastig is, dat het dus

A. door iedere crimineel makkelijk kan worden omzeild, dus waarom zou je het doen?
B. je hebt er wel degelijk last van want wat de wet kortgezegd inhoudt is dat álle content vanaf nu van zo’n hash wordt voorzien, en je hierbij altijd false positives hebt. Oftewel; plaatjes die als kinderporno worden aangemerkt maar dat niet zijn. Al dit soort zaken worden naar menselijke waarnemers gestuurd, wat weer 3 problemen heeft:
1. Als jij als vader dus een plaatje van je kind in bad deelt met je vrouw, kun je dus als je pech hebt gewoon van je bed gelicht worden en ineens iets moeten uitleggen bij de politie. Daar noemt hij in het filmpje al (schokkende) voorbeelden van met gevolgen voor carrières et cetera.
2. Niks is dus meer privé, want als een plaatje dus foutief als kinderporno wordt aangemerkt, wat in ongeveer 0,3% van de gevallen gebeurt, gaat er dus gewoon een mens meekijken met wat jij in vertrouwen deelt met iemand. Je hebt dus als onschuldige burger ook je privacy niet meer. En ik hoor iedereen denken “ach, maar 0,3%… dat valt toch best mee?”. Hij legt het in die video prima uit want dat valt helemaal niet mee het betekent dus grofweg dat van elke 300 foto’s jij deelt er 1 door mensen gezien gaat worden en beoordeeld gaat worden of het strafbaar is. Bedenk voor jezelf even hoe vaak jouw foto’s dus onder de loep genomen gaan worden. Dat raakt dan aan het laatste punt:
3. Dit gaat zoveel foutieve meldingen opleveren die eigenlijk geen kinderporno zijn, dat er enorme aantallen mensen in dienst genomen moeten worden die data allemaal te gaan analyseren, áls het al haalbaar is. Het wordt een enorme hoeveelheid data waarin op termijn vrijwel iedereen in terecht komt, en dus zo nodig “wat uit te leggen heeft”.

Kortom, het is niet alleen met een mug op een olifant schieten, iedere onschuldige burger gaat hier last van hebben én weten dat van al zijn privéfoto’s/videos met regelmaat mensen gaan meekijken naar die foto/video.

[sh4d0wman]

Men moet haast wel aan de AI want met een hash kom je niet ver. Een paar pixels veranderen, onzichtbaar voor het oog, en de hash is anders.

Ook loop je het risico dat dit scan systeem gehacked wordt. Parsers zijn een geliefd doelwit. Wat als derden op heel andere content gaan scannen? Spionage wordt een stukje makkelijker.

Oh wacht geen probleem want er zijn al uitzonderingen van het scannen: politici / EU parlement, politie, leger, etc.
/src: artikel op security.nl een tijd terug

Jammer voor het digibete plebs

[Felicia]

sh4d0wman schreef op woensdag 30 oktober 2024 @ 15:48:
Men moet haast wel aan de AI want met een hash kom je niet ver. Een paar pixels veranderen, onzichtbaar voor het oog, en de hash is anders.

En toch, als ik op Reddit en bot heb draaien die reposts vangt door afbeeldingen te hashen dan ving ik toch het meerendeel. Dat wij weten hoe een hash werkt betekent niet dat het gros weet hoe het werkt.

Daarnaast zijn er ook nog alternatieven, waar je bijvoorbeeld met pixel regels werkt i.p.v. de hele afbeelding, blokken e.d. zodat je een percentage van overeenkomst kan vaststellen. Daar had ik dan weer geen zin in dus een recht toe recht aan hash was veel makkelijker.

[DeNachtwacht]

Felicia schreef op woensdag 30 oktober 2024 @ 18:17:
[...]

En toch, als ik op Reddit en bot heb draaien die reposts vangt door afbeeldingen te hashen dan ving ik toch het meerendeel. Dat wij weten hoe een hash werkt betekent niet dat het gros weet hoe het werkt.

Het punt is dan ook vooral dat je legio pubers die filmpjes/foto’s van elkaar delen gaat vangen omdat die inderdaad niet weten hoe het werkt, maar elke zichzelf respecterende pedofiel heeft natuurlijk binnen 2 a 3 zoektochten in de gaten hoe je de pakkans immens verkleint door alles te gaan zippen. Juist de “grote jongens” trappen hier niet in, precies daarom snap ik totaal niet waarom ze dit doorzetten.

[downtime]

DeNachtwacht schreef op woensdag 30 oktober 2024 @ 18:43:
[...]

Het punt is dan ook vooral dat je legio pubers die filmpjes/foto’s van elkaar delen gaat vangen omdat die inderdaad niet weten hoe het werkt, maar elke zichzelf respecterende pedofiel heeft natuurlijk binnen 2 a 3 zoektochten in de gaten hoe je de pakkans immens verkleint door alles te gaan zippen. Juist de “grote jongens” trappen hier niet in, precies daarom snap ik totaal niet waarom ze dit doorzetten.

Het gaat ook niet om de grote jongens. Het gaat juist om de grote massa van simpel volk die niet beter weten. Dezelfde groep die nu vaak tegen de lamp loopt omdat ze domme dingen doen als het aanbieden van een computer voor reparatie bij een computershop terwijl de machine vol staat met (illegale) ranzigheid. Onderschat de omvang van die groep niet.

Het werkt niet veel anders dan met andere criminaliteit. De meeste criminelen die gepakt worden zijn geen geharde criminelen die na jaren onderzoek gepakt worden. Het zijn naieve idioten die niet door hebben hoeveel sporen ze nalaten en die gepakt worden omdat ze gewoon open en bloot op een bewakingscamera ofzo verschijnen.

[NMH]

Titel een beetje aangepast.

[_JGC_]

Dit speelt al enige tijd, was een maandje terug nog stemming over. Wat betreft media en politiek: die vinden het wel best.

https://www.nu.nl/tech/63...ermisbruik-blokkeren.html

"Nederland blijft blokkeren" zegt de kop, maar Nederland heeft geen stem uitgebracht, dat is heel wat anders. Dat is als klagen op de regering maar niet de moeite nemen om een kruisje te zetten in het stemhokje, oftewel: laat iemand anders het maar voor me beslissen, ik vind het allemaal wel prima.

[Jazzy]

DeNachtwacht schreef op woensdag 30 oktober 2024 @ 18:43:
[...]

Het punt is dan ook vooral dat je legio pubers die filmpjes/foto’s van elkaar delen gaat vangen omdat die inderdaad niet weten hoe het werkt,

In je startpost leg je uit dat de hash van een foto wordt vergeleken met hashes uit de database met reeds bekende kinderporno. Die pubers die zelf een foto of filmpje maken worden dus niet "gevangen".

maar elke zichzelf respecterende pedofiel heeft natuurlijk binnen 2 a 3 zoektochten in de gaten hoe je de pakkans immens verkleint door alles te gaan zippen. Juist de “grote jongens” trappen hier niet in, precies daarom snap ik totaal niet waarom ze dit doorzetten.

Criminelen die een overval of aanslag plegen gebruiken versleutelde telefoons. Waarom denk je dat mensen die kinderporno kijken of uitwisselen dat via Whatsapp op hun telefoon doen? Dus nee, ook die mensen worden met dit voorstel niet gevangen.

Overigens, voor wie in dit onderwerp geïnteresseerd is maar geen uur en vijf minuten naar een gesprek wil kijken, er zijn wel betere bronnen:
https://piratenpartij.nl/chatcontrole/
https://chatcontrole.nl/

En natuurlijk het topic in Privacy en beveiliging: Chatcontrol: EU voorstel om je berichten te scannen