Voordat men weer gaat zeuren dat ik offtopic ga, ik heb het topic doorgelezen en ik raak in deze post minimaal alle punten van de topicstart aan: privacy, kinderporno, de leugens van Apple betreft privacy, hoe dit te omzeilen, en ik wil er aan toevoegen (dat mag in een topic, hoop ik) dat dit verregaande gevolgen kan hebben voor bepaalde bevolkingsgroepen rond de wereld.
Als je hier langer over nadenkt is het zo volkomen idioot allemaal. Als 1 pixel is veranderd in een foto dan is de hash zodanig anders dat je d'r geen hashing match overheen kan halen. Dus dat "AI" systeem moet in staat zijn een bepaalde foutmarge in acht te nemen (wat bij hashes dus niet kan). Probeer het zelf maar eens met online hashing tools (zoals SHA256 en simpele tekst).
Dus zouden pedofielen simpelweg 1 pixel kunnen aanpassen en het algoritme omzeilen? Of moeten ze 10 pixels aanpassen? Misschien 100 pixels?
Of misschien moeten pedofielen niet 1 foto hebben, maar kunnen ze gewoon 4 foto's samenvoegen in 1 foto (linksboven, rechtsboven, linksonder, rechtsonder). Dan heb je 1 bestand met 4 plaatjes zichtbaar maar waarvan de hash nooit een match kan opleveren.
Of misschien moet je 3 pedofiele foto's nemen en 1 foto van een willekeurige stockfoto-site, puur random. En die foto random in of uitzoomen, draaien, distorten, etc. Dan is het per direct onmogelijk om die foto met een matching-algoritme te "herkennen".
Lang verhaal kort: Dit betekent dus dat ze enkel en alleen, realistisch gezien, de mensen kunnen opsporen die gewoon oerdom zijn en hun criminele materiaal niet eng genoeg vinden om zeker te zijn dat ze niet worden opgespoord, ondanks dat iedereen in de wereld nu weet dat Apple dit gaat doen.
Deze oerdomme groep zijn niet de leveranciers van het materiaal, deze oerdomme groep zijn simpelweg de oerdomme groep eindgebruikers. Ook kwalijk, maar enkel een symptoombestrijding. Als een oncoloog die pijnstillers voorschrijft voor een behandelbare kanker en heel blij is met zichzelf. Diep en diep triest.
Er zit dus meer achter. Dit "save the children" gedoe is het verkooppraatje. Er is veel meer aan de hand.
Dan blijft er nog altijd over:
Wie controleert de controleur? Op het dark web zie je ook vaak plaatjes langskomen die instructies zijn voor het maken van explosieven, wapens, zelfmoord materiaal, en ook plaatjes van mensenhandel, plaatjes van soldaten die worden of zijn geëxecuteerd, en zoveel meer.
Allemaal zaken die je kan downloaden zonder enige slechte intentie. Sommige mensen vinden het interessant om te zien, weten, of gebruiken het ter educatie.
Maar wat nou als China een paar plaatjes vindt van Oeigoeren, plaatjes met instructies hoe ze de Chinese overheid kunnen ontlopen? Die plaatjes staan op hun telefoons (al maanden of jaren) en opeens gaat de deurbel.
Wat nou als de overheid van Saudi Arabië een paar hashes naar Apple stuurt (en Apple is ook niet legaal in staat om kinderporno te mogen zien) waar stiekem allemaal memes op zijn geregistreerd van prof. Dawkins en andere bekende atheïsten? Even uit hun bed halen, die ongelovigen. Ter dood veroordelen op straat, die ongelovige honden.
Apple zegt zelf dit:
The risk of the system incorrectly flagging an account is extremely low.
Dus het is niet
onmogelijk, wat bij pure hash-checks wel onmogelijk zou zijn. Dus er zit een foutmarge op. Dus het is geen hash-compare, ze kijken (automatisch, uiteraard) daadwerkelijk naar de plaatjes zelf. En dit bevestigt dus dat Apple in staat is om foto's op te sporen die voldoen aan visuele criteria met een bepaalde foutmarge.
Enfin, het resultaat is duidelijk. De foto's die wij zelf maken worden door Apple en de overheden rond de wereld beoordeeld hoe zij dit zelf willen, niet alleen 1:1 matches; anders zouden ze namelijk zelfgemaakte foto's kunnen uitsluiten van deze "AI", en dat doen ze niet, dus partial matches zijn absoluut mogelijk.
Dit is hoe je het ook bekijkt een grove schending van onze privacy en van een enorme waslijst aan vele mensenrechten rond de wereld. Dit gaat
levens kosten in landen zoals China en Saudi Arabië, en vele andere dictaturen in de wereld waar Apple graag zijn telefoons verkoopt.
Nu is het enige vraagstuk voor mij of ik bij Apple blijf of naar Android (nog minder privacy) ga. Privacy hield mij bij Apple ondanks hun idiote hardwarekeuzes van de laatste jaren, en dat argument is nu ook volledig en compleet weggevaagd.