Jazzy schreef op zaterdag 14 augustus 2021 @ 18:37:
[...]
Mijn stelling is dat ze zich hiermee klaarmaken om te kunnen voldoen aan eisen die regimes als China stellen. Als dit mechanisme eenmaal draait
is het een fluitje van een cent om kenmerken toe te voegen om foto's te vinden met een bekende activist, de vlag van Taiwan of iets anders wat als ongewenst wordt gezien.
Maar daar waren alle smartphones tig jaar geleden al klaar voor. Waarom zou dat nu pas kunnen met deze feature? Als je daar bang voor bent had je het ding al eerder weg moeten leggen. Ik bedoel... Hij scant met machine learning al je foto's en probeert uit te vogelen wat er op staat. Dit zorgt ervoor dat de zoekfunctie als jij zoekt op "Kat" zoveel mogelijk van je kattenfoto's toont (het is niet failproof). Of als je zoekt op de naam van je vriendin, mits je die in de "Gezichten" hebt gezet, dan komen alle foto's met je vriendin erop naar voren. Nou, nu gaan we slippery-slopen: "dat is een infrastructuur waar de Chinese overheid van zou kunnen zeggen: scan maar meteen op Taiwanese vlaggen en rapporteer die gebruiker aan ons!". En dat is een van de tig voorbeelden van functies die al jaren bestaan in meerdere merken smartphone die keihard misbruikt zouden kunnen worden "in de foute handen" of "in opdracht van ...". Dat is het grote probleem met technologie, ergens moet je uiteindelijk iemand vertrouwen. En dat is altijd zo, zelfs bij opensource.
Het zou echt al jaren een fluitje van een cent om dat soort dingen te doen als ze dat zouden willen, en ze zouden het zelfs al heimelijk hebben kunnen doen, en daar hebben ze echt geen hash comparison functie met de CSAM-database voor nodig.

Kijkend naar waar je smartphone allemaal toegang toe heeft en wat het kan is die hele CSAM Perceptual Hashing functie een lachertje als we het even realistisch bekijken. Dus als je die angst eerder niet had of er vertrouwen in had dat het niet gebeurt/noch zou gaan gebeuren, snap ik niet waarom die er nu opeens wél zou moeten zijn n.a.v. de CSAM-scans. Er zijn veel "gevaarlijkere" features op je smartphone, van welk merk dan ook, die in potentie veel en veel meer schade kunnen berokkenen "in opdracht van totalitaire regimes" dan deze functie; die niet bepaald een technisch uitzonderlijk hoogstandje is of heel diep in je spullen duikt. Er zijn subroutines die meer doen.
Ik probeer al dagen te achterhalen waarom technische functionaliteit "die wel eens gevaarlijk zou kunnen zijn", en daar zit je smartphone vol mee, *nu* en enkel en alleen bij deze functie opeens iets is om doodsbang voor te zijn en opeens alle mogelijke glijdende schalen maar te accepteren en aan te nemen alsof het ook echt daadwerkelijk gaat gebeuren. Er komen op glijdende schalen en "what if's" na nauwelijks argumenten boven water. Veel meer dan onderbuikgevoelens (en een beschuldiging dat ik voor Apple werk omdat ik deze vragen stel

) heb ik niet als reactie gekregen op mijn vragen hierover ALS ik al antwoorden kreeg, eigenlijk kan niemand uitleggen waarom het door deze functie opeens een probleem is; en daar komt nog bovenop dat een groot aantal mensen kennelijk niet eens snappen wát het nu precies doet en wat de verschillen zijn tussen de twee aangekondigde afzonderlijke functies en hoe het verschilt van het heden.
En begrijp me niet verkeerd, we moeten absoluut heel erg waakzaam zijn op dit soort functies en ik ben géén voorstander van deze functies. Niet bij Apple, niet bij Google, niet bij Microsoft, nergens niet. Waar het ook plaatsvindt, maakt ook niet uit; in smartphone, in cloud, in je backups, waar dan ook: ik ben er niet blij mee dat ze het doen. En we moeten alle bedrijven er zeker op aanspreken, maar vooral ook de politiek. Het enige waar ik nu al dagenlang met opgetrokken wenkbrauwen naar zit te kijken en me afvraag is: waarom nu opeens ophef en waarom focust die zich op deze functie met alle slippery slopes, terwijl dat objectief gezien echt he-le-maal nergens op slaat als we even kijken naar sommige andere functies die met eenzelfde slippery slope redenatie veel en *veel* enger zijn... Maar daar kraait geen haan naar. Dat niemand het echt lijkt te kunnen verwoorden wat nu opeens het probleem is, waarom het eerder geen probleem is en waarom men enkel bij deze functie de slippery slopes hoogtij laten vieren geeft voor mij wel aan dat het toch een beetje neigt naar dat het niet veel meer is dan een storm in een glas water; ondanks dat ik het er óók niet mee eens ben (maar dat was ik al niet toen het in de cloud gebeurde bij Google, Microsoft, etc.). Afijn.
[
Voor 6% gewijzigd door
WhatsappHack op 15-08-2021 01:17
]
Geen quote of mention @WhatsappHack? Dan niet raar opkijken als je geen reactie krijgt. ;)