Ik heb wel een vermoeden aangezien ik bekend met soortgelijke "algortimen".
Wat sommige banken doen is een scoringsysteem gebruiken. Krijg je teveel punten dan ben je onderwerp van onderzoek. Verdacht? Dan willen ze je niet.
Niet alleen voor die bank, maar voor bijna alle banken. Want die banken geven zonder pardon je gegevens door. Of het gebrek aan gegevens. Of alleen een (onterechte) conclusie. Je komt niet zomaar van zo'n lijst af.
Spamsoftware heeft ook een scoring systeem, en dat werkt met het verzamelen van punten. Nou kan het heel toevallig zo zijn dat je een match hebt met een heleboel rules die ontleed eigenlijk op hetzelfde neer komen. Dan tellen de punten hard op. Dat resulteert misschien in een false positive.
Feitelijk is punten tellen een dom systeem, want de context en/of onderlinge relatie wordt niet meegenomen. Er kunnen goede redenen zijn waarom je op een bepaalde rule scoort die niets met terrorisme of witwassen te maken hebben.
Waar ze naar zouden kunnen kijken (ik zeg niet dat ik het er mee eens ben, gewoon een voorspelling):
- net verhuisd
- gebruikt verschillende IP's
- inloggen vanuit diverse landen
- geen social media
- geen online historie
- politieke uitspraken
- cookies blijven niet staan (botindicatie)
- analytics falen in locatie
- veel geld hebben
- veel banken hebben
- buitenlandse banken
- inloggen vanuit de VS (Facta)
- weigeren inzage in een document te geven
- grote overboekingen
discriminerende rules:
- etniciteit
- voor- of achternaam
- woonadres
Een aantal van deze zaken betekenen eigenlijk dat je om je privacy geeft, en dat doen criminelen ook, maar dan om minder goede redenen. Of omdat je wat rijker bent dan een ander.
Het gaat vaak mis omdat die organisaties willen "professionaliseren". Dat staat voor het eruit halen van alles dat menselijk is. Dus ook jouw weerwoord of het gevoel van een behandelaar. Gevolg is dat men blind vertrouwd op het algortime. Veel punten betekent dat je 'fout' bent. Geen recht op inzage, geen recht op correctie.
Computer says no.
Dat lijkt op wat er fout gaat met algortimen die
we elders langs hebben zien komen.
Volgens de GDPR moet een organisatie op verzoek aangeven welke gegevens ze over je hebben. Veel organisaties doen dat maar gedeeltelijk. Sommige hebben dat geautormatiseerd, bijvoorbeeld Google. Daar kun je het relatief makkelijk downloaden met wat klikken. Als ze alleen een deel van de gegevens verstrekken, bijvoorbeeld wat je zelf hebt aangedragen en de rest niet, is men in overtreding van de GDPR, die toch echt alle gegevens bedoelt. Ook gegevens die uit anderen bronnen komen. Je hebt het recht op correctie.
Dat is wat een getroffen burger kan doen.