Verwijderd schreef op dinsdag 19 september 2017 @ 21:41:
[...]
Maar ook hier ga je er dus weer van uit dat nadenken een of ander magisch iets is. Dat is het niet. Het wordt, zoals gezegd, aangestuurd door een bende neuronen. Wat betekent dat als je dat simuleert er geen verschil is in de output van een mens en een computer.
Waar de TS volgens mij op doelt is nu juist precies datgene wat sommigen de geest of ziel noemen. Jij noemt het een bende neuronen..
Het is de eeuwenoude discussie wat een mens onderscheid van de andere wezens. Daar wordt van alles genoemd aan eigenschappen die die bende neuronen bij mensen wel teweeg brengt, maar bij andere dieren niet. Zelfbewustzijn bijvoorbeeld, terwijl dat bij dieren ook aanwezig kan zijn.
Juist omdat het een bende neuronen is en we technisch nog een heel eind komen met bedenken hoe we werken, is het lastig om te onderscheiden wat ons dan definieert.
We hebben de enorme neiging om alles te willen begrijpen. het Waarom is heel belangrijk.
We accepteren dat iemand een auto ongeluk veroorzaakt als hij dronken achter het stuur stapt. We kunnen namelijk beredeneren wat de reden is van het ongeluk. We keuren het af, maar begrijpen ook dat het kan gebeuren en maken de afweging dat de kans dat dit te vaak gebeurt niet zo groot is om autorijden totaal te verbieden.
Zelfs bij zware criminelen doen we er alles aan om te achterhalen waarom deze persoon afwijkt van de norm. Wat de reden van het afwijkende gedrag is. Als we daar een reden voor hebben (zelfs als dat simpelweg.."die persoon is psychisch gestoord" is) kunnen we daar mee leven.
Maar als er 1 Tesla crashed staat iedereen in de rij om te zien waar het fout gegaan is. Want stel je voor dat die AI een fout gemaakt heeft...dat is onacceptabel!
Denken is inderdaad niet iets magisch. Het is eenvoudig weg een aaneenschakeling van beslissingen.
IT in zijn meest pure vorm: If this then that.
Als we de "that" zien, willen we de "this" achterhalen.
Bij mensen is dat moeilijk. Onze bende neuronen doet namelijk rare dingen. Afwijkingen die zorgen voor fantastische prestaties (dan noemen we het talent) , maar ook voor verschrikkelijke dingen.
In dit geval zie je ook dat er 5 maanden aan een rapport gewerkt wordt om te achterhalen wat er gebeurde. Wat was de "If"?
Snelheid is een handicap van mensen t.o.v machines, maar dat kan nog steeds iets zijn wat we kunnen begrijpen achteraf.
Waar ik op doelde met "eng" is dat we niet eens meer kunnen achterhalen waarom een bepaalde AI een bepaald resultaat haalt. We kunnen nu al soms niet meer achterhalen wat de achterliggende reden is van een beslissing van een AI.
Hier staan een aantal mooie voorbeelden in:
https://www.technologyrev...ecret-at-the-heart-of-ai/
Deep patient die schizofrenie verbazingwekkend goed kan voorspellen op basis van patienten data....maar waarbij niet achterhaald kan worden hoe de AI het doet.
In dit geval een positieve uitkomst, maar het vraagt wel enorm vertrouwen in een systeem dat we zelf niet meer kunnen begrijpen.
Een minder fijn voorbeeld:
https://www.theguardian.c...traight-from-a-photograph
AI die met 5 foto's met 91% succes voorspelt of een man homo is of niet. Bizar onderzoek, maar zeker als je bedenkt dat in sommige landen de doodstraf staat of homo zijn...geen prettige techniek.
En in dit geval was zelfs nog wel te achterhalen wat de achterliggende factoren waren waarop de AI zich baseerde ook al waren dat factoren die mensen dus zelf niet achterhalen.
Nadenken is beslissen en keuzes maken. Je inleven. Eigenlijk is een machine daar nu veel beter in, maar dat maakt het niet menselijk. In tegendeel zelfs.
" A common mistake that people make when trying to design something completely foolproof is to underestimate the ingenuity of complete fools. " - Douglas Noel Adams