Hoe weren wij ons tegen misinformatie?
De agressor in deze oorlog kent een lange geschiedenis van de inzet van misinformatie, en hierdoor zijn er veel Russen die niet weten wat er in Oekraïne gebeurt, en hun autocraat die met atoombommen dreigt steunen. Ook buiten Rusland zijn er veel mensen die niet bekend zijn met de feiten, maar met een narratief zoals geconstruceerd ten faveure van het Kremlin, en daardoor een rol spelen in de beperkte reactie op de agressie. Deze oorlog, en wellicht binnenkort erger, wordt mogelijk gemaakt door misinformatie. Laten we verkennen hoe misinformatie herkennen, hoe we het kunnen voorkomen en bestrijden, en ook waarom we het moeten voorkomen.Informatie en democratie
In elke samenleving is het van belang samen te kunnen leven, en een essentieel middel daartoe is communicatie onderling: we moeten weten wat eenieder wil, waar eenieder last van heeft, en dan samen tot een leefbaar compromis komen. Gaat zulk soort communicatie spaak, dan drijven mensen uit elkaar, gaan elkaar wantrouwen, elkaar dwarszitten en saboteren, langs elkaar heen leven, met als gevolg dat problemen niet meer goed in beeld komen, begrip van de feiten niet meer door iedereen zoveel mogelijk gedeeld wordt, en dat tegenstellingen wortel schieten en veranderen in splijtzwammen en ruzies, conflicten, of erger.Voor democratien is dit nog eens extra pertinent: wij hebben geen arbitrator in de vorm van een dictatuur om ons op te leggen wat we moeten vinden, dat moeten we zelf uitzoeken. Dit betekent ook dat we blootstaan aan manipulatie: mensen kunnen te goeder trouw communiceren of niet, en die twee uit elkaar houden is in praktijk moeilijk. Kranten hebben bijvoorbeeld vaak een bepaalde insteek of kijk op de wereld, en kiezen en schrijven het nieuws met die bril op. Daar is niets mis mee, zeker niet als je van die bril af weet. Als je iets gedaan wil krijgen in een democratie, kun je itt tot een dictatuur niet middels omkoping of gewoon macht doen wat je wil, nee, je moet voldoende mensen voor je zaak winnen. Te goeder trouw, of niet. Sommige kranten zijn geen kranten, maar middelen om een wel heel vreemd brilletje te blijven pushen.
In de 21ste eeuw speelt internet, en social media in het bijzonder, een zeer grote rol in deze communicatie. Inmiddels krijgen de meesten van ons primair hun nieuws zo binnen, communiceren ook zo primair met vrienden en familie, met ons democratische vertegenwoordigers, met onze overheden, etc. Elk medium heeft sterke en zwakke punten, en over die zwakke punten wil ik het hebben. Fake news, misinformatie, trollen, dit zijn de uitdagingen om onze communicatie van goede kwaliteit te houden.
Onderdrukking van informatie.
We zien hoe Rusland, door censuur, blokkades en beperkingen de onderlinge communicatie totaal saboteren, en gewone Russen niet in staat zijn een beeld van de feiten te vormen over wat hun overheid in Oekraïne aanricht. Dit is op zich niets nieuws, de Sovjet Unie is een klassieke casus van beperking van vrijheid van pers en informatie. In China zien we iets gelijkaardigs: Chinezen mogen geen kritische kanttekeningen hebben/delen over hun overheid, denk aan Peng Shuai, de Oeigoeren, Tiananmenplein. Dankzij de Great Firewall is het ook moeilijk voor Chinezen buitenlandse bronnen hierover te raadplegen.In een artikel van gisteren worden de protesten in Rusland geanalyseerd, die wonder boven wonder nog steeds plaatsvinden en, ook al is het moeilijk een precies beeld te vormen juist wegens de onderdrukking van informatie hieromtrent, mogelijk de grootste protesten onder Poetin tot nu toe zijn. Het valt op dat de protesten 'wild' zijn, spontaan en ongecoordineerd. Zoals een geinterviewde het omschrijft:
De Russische overheid is erin geslaagd de communicatie binnen haar volk volledig te saboteren. Helaas wordt ook het volgende opgemerkt:The reason why these protests are not super organized is because last year Russian authorities completely destroyed civil society.
Het paardenmiddel van het ontzeggen van toegang voor Russen heeft niet slechts een positief effect, maar ook het negatieve effect van blootstelling aan voor hen alternatieve media.Wasiura also points out that the economic stress that many Russians are sure to experience in the coming months may only serve to reinforce the victim mentality that Putin has promoted vis-a-vis Russia and the West.
Verdraaiing c.q. vernieling van informatie
Dat was het manipuleren van eigen burgers, what about burgers in andere landen, jij en ik? In de Scientific American staat een interview met iemand die misinformatie onderzoekt, en naast het aanreiken van eigenlijk alle relevante aanknopingspunten over hoe Rusland de informatie oorlog tegen het Westen speelt, is een een kwoot die het wmb goed samen vat:Met het afkoppelen van Rusland van het internet is het meetbaar minder polariserend op social media bron. In 2014 (begin met Oekraïne oorlog) en 2016 (verkiezing Trump) leerden we al van het Internet Research Agency, een zogenaamde trollenfabriek die, zoals een gewaardeerd forumlid @Virtuozzo het samenvatte, voor de prijs van een F16 de verkiezing in het voordeel van Trump beslechtte. Een aantal links die de werking van die trollenfabrieken uiteenzetten, ook hier in Nederland gebeurt dit.misinformation is really engaging
Het mechanisme is simpel: door onze onderlinge communicatie te kwader trouw te destabiliseren, raken wij afgeleid van de werkelijkheid (we hebben het bijv. over migratie ipv de vreselijke situatie in Oekraïne) en wij raken contact met elkaar kwijt, waardoor we minder verenigd kunnen optreden (op zich is de reactie op de escalatie in Oekraïne daarop een prettig uitzondering).
Desinformatie en misinformatie
Misinformatie en desinformatie ondermijnen de kwaliteit van onze communicatie, en werken daarmee polarisatie in de hand, en daarmee uiteindelijk ondermijning van democratie. Desinformatie is wanneer Rusland beweert dat ze Oekraïne komen bevrijden van nazi's, misinformatie is wanneer mensen daar het Azov bataljon aanwijzen bij het bespreken van zulk nieuws. Desinformatie is opzettelijk, misinformatie is het per abuis of opzettelijk slordig met (des)informatie om gaan en de discussie verder bemoeilijken. Vaak zie je dat men een punt wil onderstrepen en daar een bron bij zoekt, en dan vergeet de bron goed te analyseren. Ons doel is uiteindelijk niet om een punt te maken, maar om tot de waarheid te komen.Mechanismen van mis- en desinformatie
Norman Davies reikt ons een stappenplan aan in "Europa: een geschiedenis" als de basisregels van propaganda:- The rule of simplification: reducing all data to a simple confrontation between ‘Good and Bad’, ‘Friend and Foe’.
- The rule of disfiguration: discrediting the opposition by crude smears and parodies.
- The rule of transfusion: manipulating the consensus values of the target audience for one’s own ends.
- The rule of unanimity: presenting one’s viewpoint as if it were the unanimous opinion of all right-thinking people: draining the doubting individual into agreement by the appeal of star-performers, by social pressure, and by ‘psychological contagion’.
- The rule of orchestration: endlessly repeating the same messages in different variations and combinations.
Nudging
Er valt direct iets op: Rusland speelt een grote rol in de wereldwijde verspreiding van misinformatie. Sowieso is het bij authoritaire regimes van veel groter belang en dus praktijk, omdat zij immers ten alle tijden hun legitimiteit moeten bevestigen, want ze kunnen niet bogen op een democratische verkiezingen daarvoor. Het andere is de rol van social media: deze maken het makkelijker en goedkoper dan ooit tevoren mensen te Nudgen; het mechanisme waar je, zeker in systemen met beperkte keuze (First past the post, defacto tweepartijenstelsels), je uiteindelijk maar een kleine fractie hoeft te overtuigen om een kant aan een meerderheid te helpen.Emotie
'Misinfo is really engaging'; hoe emotioneler het artikeltje gebracht wordt, hoe beter het blijft hangen als je er gevoelig voor bent. Dat is de paradox dus: een artikel dat migranten als profiteurs afschildert zal op een bepaalde groep direct als bevestigend werken, en bij een andere groep direct te herkennen zijn als pandering. Er zijn dus twee dingen om op te letten: het feit dat des te meer aanspraak een tekst maakt op je emotie, des te groter de kans dat je te snel de inhoud laat beklijven. Persoonlijk vermijdt ik daarom dat soort stijl artikels min of meer uit principe: ik moet dan teveel op mijn hoede zijn. Het andere om op te letten is dat de effectiviteit van deze berichten ontzettend van de lezen afhangen, dus als iemand te kwader trouw is, dan zal die zorgvuldig zijn lezers willen kiezen: hij wil de juiste bubbel aanspreken.Big Tech en informatie: bubbels
De manier om mensen in een democratie met vrije pers, een op papier uitstekende garantie op vrije en open communicatie, toch te manipuleren is het kunstmatig bubbelen. Een recent voorbeeld is de anti-corona-vaccinatie bubbel: mensen gaan 'op internet onderzoek doen' maar doen dat helaas via social media, die geoptimaliseerd zijn voor engagement, oftewel meer van hetzelfde, of zoekmachines die advertenties weergeven, en dus ook zo gebiasde informatie opleveren. Een persoonlijke observatie: hoe gekker de bubbel, hoe digibetischer mijn inschatting van de persoon. Er springt ook meteen een wereld van kleine ondernemers op zulke bubbels: natuurlijke producten die covid voorkomen, ondernemers die groepen gevoelig voor lifestyle ideeen over 'natuurlijk leven' zijn de bubbel in slepen (ben de link kwijt, maar yoga kringen waren een favoriet target begreep ik ergens). Andersom werkt het effect ook: als jij niet in de antivax bubbel zit, dan zullen theorieën uit die bubbel (Bill Gates wil chips in onze kinderen implanteren) je afkeer van mensen in die bubbel vergroten, en daarmee effectief polariseren.Eens gebubbeld, kan de bubbel voortleven, zoals we nu zien met dit conflict. In praktijk kun je diep vast komen te zitten, in Het fenomeen incel: oorzaak en de gevolgen blijkt dat niet soms de psychiatrie eraan te pas moet komen.
Conclusie: de bubbel is een pathalogie die we moeten leren voorkomen.
Herhaling
Als jij eens een keer van een samenzweringstheorie hoort, is dat meestal niet genoeg om je erin te doen geloven. Hoor je het echter elke dag, dan is het niet meer dan menselijk onbewust een steeds grotere waarschijnlijkheid aan zo'n theorie toe te kennen. Zoals we nog van school weten: herhalen doet onthouden, en wat je onthoud is wat je denkt. Ook onjuiste informatie. Als het NOS journaal steeds maar weer herhaalt dat Rusland slechts Oekraine denazificeert, ga je vanzelf denken: hmm, misschien lopen er toch veel nazi's rond in dat land?Verzadiging
Dit borduurt een beetje voort op voorgaande, Big Tech maakt het Firehose model mogelijk: een mens kan maar zoveel op een lezen en verwerken, en dankzij social media is het volume (des/mis)informatie dat aangeboden kan worden onbeperkt. In het Firehose model 'verstopt' een te kwader trouw actor jouw persoonlijke bandbreedte met nepnieuws, zodat je niet toe komt aan echt nieuws, de broodnodige evaluatie van alles wat je leest. Zulke berichten zijn engaging als ze outrage opwekken: op je gevoel (en onderbuik) inspelen. Als je eenmaal in een bubbel zit, kan zo'n Firehose enorm effectief zijn je er ook te houden: je kunt bijv. alleen nog maar dingen zien die die infobubbel onderstrepen. Algoritmes zijn juist zo afgesteld: ze trainen op jouw leesgedrag en geven je meer van hetzelfde. Ook onderdeel hiervan is de neiging dat emo-nieuws te paard reist, en denk-nieuws te voet. Dientengevolge heeft het eerste de neiging te domineren, wat de waarde van het categorisch bannen van zulke bronnen onderstreept, ook al lijkt dat op eerste gezicht misschien censuur. Het is juist censuur het niet te doen, want in praktijk gaat het dan vaak alleen maar over die bronnen: de Firehose blaast het andere weg. We moeten het andere daartegen beschermen. Zoals ene S. Bannon zijn plan plastisch uitlegde: je kunt democratie vernietigen door het in stront te verdrinken.Na een dag van samenzweringen heb je geen tijd en energie meer om eens kritisch na te denken over of het misschien allemaal onzin is. We komen zo niet meer toe aan echt nieuws bespreken: het is een logisch gevolg dat onze pensioenen omlaag moeten als volgende generatie kleiner is, en we migratie beperken omdat 'onze banen ingepikt worden'.
Financiering van destructieve bewegingen in doelwitlanden
Door een vijandelijk land, of een land lid van een vijandelijk blok, te destabiliseren, kun je er extremisten financieren. De Russische rol in de verkiezing van Trump is daar een voorbeeld van, maar ook in Nederland hebben we ermee te maken. Zie Retroperspectief: Het Oekraïne referendum en dit artikel in de Groene. Ook in 2022 blijven de banden tussen de Russische ambassade en FvD warm.Actiepunten
Herkennen van des-/misinformatie
Desinformatie moeten we herkennen, misinformatie moeten we voorkomen. Voor het tweede heeft dit forum twee praktische handleidingen over hoe je bronnen kunt beoordelen:In dit conflict
Zoals eerder opgemerkt, het terugtrekken/blokkeren van Westerse (social) media heeft als effect dat 'ons' internet een stuk prettiger is geworden, maar ook dat Russen een pad naar informatie moeten missen. We hebben ruis weggenomen, maar daar misschien geen of te weinig signaal voor terug geplaatst. De BCC heeft haar Russisch-talige kortegolf radio weer aangezet, wat ik een goed idee vind. Diverse buurlanden van Rusland hebben Russischetalige nieuwskanalen, maar vaak slechts via internet waar ze niet meer bij kunnen. Anonymous is erin geslaagd enkele Russische zenders tijdelijk echt nieuws uit te laten zenden. Al is TASS, het Russische persagentschap, en dus een belangrijk injectiepunt van Kremlin-propaganda, geschorst uit de Europese club van persbureau's, verwijderd, zijn ze nog altijd lid.Wat kunnen we nog meer doen? Ik denk weleens dat we de Russischtaligen in de EU te weinig inzetten. Sowieso hebben we geen EU nieuwszenders, dat zou, met de eerste paragrafen van dit bericht, al een flinke stap zijn in het verbeteren van de communicatie tussen Europeanen onderling, maar het zo ook een middel kunnen zijn in de bestrijding van misinformatie binnen Rusland, onder de Russen.
Hier op GoT heb ik iets positiefs waargenomen: in het Oekraïne topic is bronanalyse nu integraal onderdeel van het gesprek. Voor elke nieuwswaardigheid wordt bevestiging uit een andere bron gezocht, en waar relevant mensen aangesproken op het feit dat ze te snel sensationele feitjes posten, of steeds uit bekende trolbron posten. Soms zelfs identificatie van GoT trol accounts. Aan het weren van linkdrops en andere te emotionele stijl/content hoeft nauwelijks een mod te pas te komen. Dit was in de eerste dagen van het conflict wel anders, het lijkt alsof het legioen van fatsoen net als de wereld even tijd nodig had op zich hierop te hergroeperen en in te stellen. In elk geval even een klein chapeau voor de striktere topicregels en de gemeenschap die zich daar grosso modo actief aan (wil) houden.
Wat kunnen we nog meer doen tegen Russische misinformatie, hier op GoT en op de rest van het internet? Hoe doe jij dat, wat zijn methodes die je nu al gebruikt?
Enkele relevante bronnen:
- EUvsDisinfo houd een lijst bij van specifieke narratieven en de debunking daarvan
- InformNapalm debunkt mythes in de Russische hybride oorlog. De lijst generaals en hun omstandigheden van executie zelfmoord is specifiek het vermelden waard.
- De Guardian bericht over een 'bot holiday' nadat Rusland grotendeels van social media is afgeschakelt
- CNN: Russia calls wounded people actors.
- Euronews: Falseflags & firehosing, overflow of desinformation
- Propublica: Russian 'factchecks' used to create disinformation
- Secondary Infektion is a series of operations run by a large-scale, persistent threat actor from Russia that worked in parallel to the Internet Research Agency and the GRU but was systematically different in its approach. The campaign used fake accounts and forged documents to sow conflict between Western countries and most often targeted Ukraine. It produced at least 2,500 pieces of content in seven languages across over 300 platforms from 2014 into 2020.
- Vatniksoup is in eerste instantie een actueel overzicht van actoren die 'in bad faith' desinformatie verspreiden, tevens heeft de auteur meerdere platformen en mechanismes behandeld om een volledig beeld te krijgen over specifiek Russische desinformatie.
In het algemeen
Daniel Kahneman's "Thinking, Fast and Slow/Ons feilbare denken" wordt vaak aangehaald met zijn snelle en langzame denksystemen: sensatie, emotie, dat is snel, en als het erin gaat, dan als zoete koek, en dan ook maar weer moeilijk eruit (zie ook de vraag "How can we avoid falling for or spreading misinformation?" in het Scientific American interview). Het staat kortom kritisch denken in de weg, terwijl het langzame denken, waar je door de tijd te nemen je ratio een kans geeft zich eens met de informatie te bemoeien, je beter in staat stelt kritisch te kijken naar wat je leest.Hoe gaan we om met Big Tech, dat optimaliseert voor thinking fast, voor bubbelisering, voor manipulatie, wat dus eigenlijk totaal haaks staat op wat we nodig hebben in een gezonde democratie: goede onderlinge communicatie, vrij van actoren die te kwader wil zijn? In AWM/het Oekraïne topic zijn we best goed in het elkaar aanspreken hierop, maar hoe doen we dat in de rest van het internet, het leven? Hoe maken we mensen weerbaar tegen misinformatie, en houden we ons discours van hoog en betekenisvol niveau?
Ik heb een beetje een bias, omdat ik getraind ben als wetenschapper, en ik dientengevolge omwille van de broodwinning goed moet zijn in (literatuur onderzoek). Ik gebruik die manier van aanpak ook buiten mijn werk, omdat dit vanzelfsprekend een enorm goede manier is om de werkelijkheid te begrijpen. Als ik lees dat mensen de eerste drie hits op Google voor waar aannemen, dan denk ik: hoe kun je nou niet weten dat iemand er gewoon voor betaald om je die info te tonen? Moeten we dus literatuur onderzoek toen een skill maken voor elke burger? Op elk niveau in het onderwijs moet men dit kunnen? Moet men leren hoe je met informatie omgaan en misinfo herkent? En verder, hoe je je niet moet laten manipuleren op social media, je niet bubbelen? Hoe zou je dat op school doen?
Enkele relevante bronnen:
- CSIS: Russian influence on Brexit referendum
- NYT: Russian unfluence in The Netherlands (referendum/MH17)
- NPO Zembla: Kremlin in de kamer 10-3-2022
- BBC: OPCW Hack by Russian GRU prevented by Dutch AIVD
- RTL: Hoe de AIVD russische hackgroep/trollfarm hackte
- Privacyweb: AIVD betrapt Russsiche inlichtingen officieren en laat ze uitzetten
- BBC: How a Russian trollfarm works
- WP: How Russia got caught and got away with it
- The Paradox of tolerance
- VPRO tegenlicht: Putins waarheid volgens Peter Pomerantsev
tldr
Je mist het puntEerdere topics
Democratie: werking, deelname en uitdagingen: persvrijheid en democratie gaan hand in hand, dus neergang van het eerste met neergang van het tweede ook.Het fenomeen incel: oorzaak en de gevolgen: incels zijn een uitstekend voorbeeld van een vrijwillige en kwalijke bubbel
Hoe om te gaan met complottheorieën?: complottheorien zijn verleidelijk, emotioneel, makkelijk.
Sociale psychologie: de rol van menselijk groepsgedrag: groepsgedrag, de rol van identiteit; mechanismen die mensen kunstmatig in een denkhoekje houden. Kort, goedaardig voorbeeld: Nederlanders gaan niet juichen wanneer Duitsland scoort.
Selectieve Interpretatie op Social Media: hoe beland men in een bubbel op social media?
2022: totale desillusie en maakbaarheid van sociale media?: hoe sociaal is social media? Niet erg, het is hapklaar voorgekauwd. Gezien de verdienmodellen van social media (adverntentieinkomsten) voor de hand liggend, het business model is de kunst van het manipuleren van jouw gedachten. Om iets te kopen, iets te geloven, ergens op te stemmen.
De explosieve groei Big Tech - Oorzaak, gevolg en oplossing: Big Tech is manipulatie tech, want advententieinkomsten zijn vaak de grootste of enige inkomsten. Als deze grootste industrie ter wereld draait om het verfijnen van de kunst mensen van gedachten te veranderen, dan is het, samen met de integrale rol ervan in onze communicatie, een ontzettende bedreiging van de kwaliteit van onze informatie uitwisseling. Het ontstaan van bubbels is een logisch gevolg van algorithmen die optimaliseren voor 'engagement'. Een Mozilla studie toont aan dat good-faith actoren altijd in het nadeel zijn tegenover verspreiders van misinformatie. Dit is een fundamenteel probleem van social media.
Metaverse: de volgende stap?: Meta (Facebook) wil bovenstaande in een hogere versnelling zetten. Effectief wil men in staat zijn mensen in een 'meta' wereld te leven, wat zo ongeveer neerkomt op de manier waarop Rusland haar burgers saboteert in onderlinge communicatie: we zullen niet meer direct kunnen praten omdat we niet meer dezelfde informatie en ervaring daarvan zullen delen. Meta denkt kennelijk dat dit goud waard is, de vraag is wie en waarom? Er zijn rijke industrialisten die Rusland zien als voorbeeld: rijk is daar immers heel rijk, en heel onaantastbaar. Dit is wellicht een topic op zich, maar dit boek is het lezen meer dan waard om dat een beetje een idee van te krijgen.
[ Voor 140% gewijzigd door Brent op 29-01-2024 09:35 ]
Humanist | Kernpower! | Determinist | Verken uw geest | Politiek dakloos