Zelfrijdende auto's en het morele dilemma

[iamcj]

Een populair onderwerp met betrekking tot zelfrijdende auto's gaat over de vraag wat een zelfrijdende auto moet doen als hij de keuze moet maken tussen 3 dode kinderen en 4 dode volwassenen, of 1 dode voetganger die door rood loopt en de bestuurder zelf doden.

Bijvoorbeeld: http://moralmachine.mit.edu/

Mijn stelling is, dat dit een non-discussie is. Ik daag iedereen uit om een realistische verkeerssituatie te bedenken waarbij zo'n dilemma speelt. Volgens mij bestaan ze nl. niet, of is de kans zo klein dat deze verwaarloosbaar is.

Alvast wat argumenten waarom ik denk dat deze keuze in principe nooit gemaakt hoeft te worden.

• als de remmen uitvallen, kan de auto de parkeerrem gebruiken. Daarmee zijn alle voorbeelden van bovenstaande website niet meer relevant.
• als de auto uitvalt, kan wellicht een mechanische rem in werking worden gesteld.
• je moet wel minimaal 100 km per uur rijden voordat je als bestuurder na een uitwijkmanoeuvre en remactie alsnog zo hard rijdt dat je je zelf tegen een obstakel dood rijdt. Uitwijken zal dus niet zo maar dodelijk zijn voor de bestuurder.
• langs zo'n honderd kilometer per uur weg, zijn over het algemeen geen oversteekplaatsen voor voetgangers of obstakels langs de weg waarachter een auto geen andere verkeersdeelnemers kan herkennen.
• de auto zou in geval van een 1 baans 100 km/u weg, met een continue stroom tegenliggers, geen uitwijkmogelijkheden en een onduidelijke situatie, zoals een heuvel, zelf zijn snelheid vast kunnen minderen om zo een potentiele dodelijke situatie te vermijden.

[Nico_GTR]

Eindhoven, 70 km per uur ringweg.....die is gevaarlijk zat.

Maar het is een non-discussie wat mij betreft. Stap jij in een vliegtuig zonder piloot? Derhalve stap ik niet in een auto die zichzelf kan besturen.
Ik zie meer in de route die Toyota wil inslaan, de auto kan niet meer doen dan uitwijken of volledig 100% remmen. In dat geval verminder je dus de reactietijd met 1,5 tot 2 seconden. Toch een afstand van 66 meter op de snelweg en die ga je wel merken.

Als mens zul je dat al niet kunnen maar dat moet al zoveel veiliger zijn dan vandaag de dag. Wil je niet autorijden, ga met het OV.

Ik heb de test ook gedaan hoor, echt al maanden terug toen we dit al eens hebben behandeld op stage en in college.

[vanaalten]

Zijn er niet oneindig veel mogelijkheden waarbij zo'n dillemma kan voorkomen? Ik zie het echt als een zeer realistisch scenario. Het komt met gewone auto's ook voor, maar niemand die je zal pakken op een 'beslissing', voor zover je 'm hebt kunnen overdenken in een fractie van een seconde. Da's het probleem met de software van de zelfrijdende auto: je moet nu een weloverwogen beslissing maken in plaats van instinctief op het moment zelf.

Hypothetisch: zelfrijdende auto op de snelweg, middelste baan. Druk, dus geen ruimte links of rechts. Linksachter je gaat een normale auto van baan wisselen - komt een afslag aan of zo, whatever. Korte tijd is er veel te weinig afstand tussen jou en je achterligger.

Net op dat moment gaat er voor je een motorrijder onderuit door olie, spoorvorming op de weg, whatever. Met een noodstop kan je auto voorkomen dat 'ie 'm overrijdt, maar gaat je achterligger je nooit ontwijken - en met de drukte op de weg zijn de gevolgen niet te overzien. Welke keuze moet de software maken?

[anessie]

Enig merk dat publiek lekt dat de bestuurder doden een optie is boven een rij schoolkinderen omver maaien ziet zijn verkoop zakken. Zo is het nu eenmaal.

[Sethro]

anessie schreef op donderdag 27 april 2017 @ 19:02:
Enig merk dat publiek lekt dat de bestuurder doden een optie is boven een rij schoolkinderen omver maaien ziet zijn verkoop zakken. Zo is het nu eenmaal.

Dat dus.

[Verwijderd]

anessie schreef op donderdag 27 april 2017 @ 19:02:
Enig merk dat publiek lekt dat de bestuurder doden een optie is boven een rij schoolkinderen omver maaien ziet zijn verkoop zakken. Zo is het nu eenmaal.

Ik denk dat de verantwoordelijke werknemers van automerken die zoiets doen berecht zullen worden voor verschillende soorten delicten, en anders worden ze gewoon doodgeschoten door vigilantes. Denk niet dat vaders van schoolkinderen dan bij de pakken neer zullen zitten maar gewoon het recht in eigen handen nemen. Vooral als het om Amerikaanse kinderen gaat. Kortom, zo somber hoeven we het allemaal niet in te zien.

[McKaamos]

Ik vind het wel grappig hoe de TS in essentie suggereert dat een auto in staat is om te bepalen wat voor type menselijk obstakels er in de weg staan. Is het een oud opatje, een groep schoolkinderen, etc.
Daar heeft een auto totaal geen weet van en doet ook helemaal niet ter zake. Die auto doet gewoon aan collission avoidance en zal op alle manieren mogelijk proberen om helemaal niets te raken, binnen wat technisch mogelijk is met de natuurkundige wetten waar aan we allen onderhevig zijn.
Stel dat de omstandigheden zo zijn dat er iets geraakt wordt, dan is dat op basis van de 'best path' berekening die de auto doet. Hij zoekt gewoon uit wat de grootste kans geeft op het rechtzetten van de situatie.

[anessie]

Is een verdoken persoonlijkheidstest, ik heb het blijkbaar niet zo hoog met oudjes, dieren en criminelen.

"Female doctors" aan de andere kant

[ Voor 21% gewijzigd door anessie op 27-04-2017 19:39 ]

[iamcj]

vanaalten schreef op donderdag 27 april 2017 @ 18:40:
Zijn er niet oneindig veel mogelijkheden waarbij zo'n dillemma kan voorkomen? Ik zie het echt als een zeer realistisch scenario. Het komt met gewone auto's ook voor, maar niemand die je zal pakken op een 'beslissing', voor zover je 'm hebt kunnen overdenken in een fractie van een seconde. Da's het probleem met de software van de zelfrijdende auto: je moet nu een weloverwogen beslissing maken in plaats van instinctief op het moment zelf.

Hypothetisch: zelfrijdende auto op de snelweg, middelste baan. Druk, dus geen ruimte links of rechts. Linksachter je gaat een normale auto van baan wisselen - komt een afslag aan of zo, whatever. Korte tijd is er veel te weinig afstand tussen jou en je achterligger.

Net op dat moment gaat er voor je een motorrijder onderuit door olie, spoorvorming op de weg, whatever. Met een noodstop kan je auto voorkomen dat 'ie 'm overrijdt, maar gaat je achterligger je nooit ontwijken - en met de drukte op de weg zijn de gevolgen niet te overzien. Welke keuze moet de software maken?

Tnx, jij hebt een veilige afstand ten opzicht van de motor. Een vallende motor heeft een hogere snelheid dan een remmende motor. In dit geval kan de auto dus rustig remmen, maar zal er mogelijk wel een kettingbotsing ontstaan als je achterligger niet oplet (zijn fout)

[eric.1]

Als je nu zegt dat het een non-discussie is, heb je volgens mij niet geheel begrepen waar het over gaat.

De keuze tussen persoon X (of een groep) omver rijden vs jezelf richting een betonnen constructie sturen is natuurlijk een uiterste, maar wel iets waar we over na moeten denken met de vorderende ontwikkeling van AI.

We komen in een tijd dat machines "menselijke" beslissingen zullen moeten nemen of beslissingen waar in het beste geval een X aantal mensen zwaar gewond zullen raken. Maar wat is de beste keuze dan? Wat zou je zelf doen en wat is een "morele" keuze.

Op dit moment weten we zelf niet eens waarom we iets zouden kiezen, we gebruiken instinct. We proberen de impact te beperken, denken we dan aan wie of wat we raken of denken we aan onszelf? Hoe kunnen we dan ervoor zorgen dat een machine de juiste, morele en sociaal acceptabele keuze maakt?

Het is geen zwart-wit verhaal. Het is een begin van een discussie, het begin van het vertalen van het menselijk instinct naar machines.

[McKaamos]

eric.1 schreef op donderdag 27 april 2017 @ 19:40:
Als je nu zegt dat het een non-discussie is, heb je volgens mij niet geheel begrepen waar het over gaat.

De keuze tussen persoon X (of een groep) omver rijden vs jezelf richting een betonnen constructie sturen is natuurlijk een uiterste, maar wel iets waar we over na moeten denken met de vorderende ontwikkeling van AI.

We komen in een tijd dat machines "menselijke" beslissingen zullen moeten nemen of beslissingen waar in het beste geval een X aantal mensen zwaar gewond zullen raken. Maar wat is de beste keuze dan? Wat zou je zelf doen en wat is een "morele" keuze.

Op dit moment weten we zelf niet eens waarom we iets zouden kiezen, we gebruiken instinct. We proberen de impact te beperken, denken we dan aan wie of wat we raken of denken we aan onszelf? Hoe kunnen we dan ervoor zorgen dat een machine de juiste, morele en sociaal acceptabele keuze maakt?

Het is geen zwart-wit verhaal. Het is een begin van een discussie, het begin van het vertalen van het menselijk instinct naar machines.

Het is zeer zeker geen zwarwit verhaal op het moment dat een computer moreel/sociaal correct inschattingen kan maken. Echter, er mist veel teveel informatie voor die computer om zo'n beslissing te kunnen nemen.

Dan praten we uiteraard wel over huidige techniek. Detectie dat ergens een humanoide object staat is mogelijk, maar de details die wij kunnen zien aan b.v. kleding, gezicht of postuur, zit nog lang niet in computers.
Tot het moment dat die functies bestaan, is het gewoon keiharde statistiek. Welk pad is het beste om zo min mogelijk schade aan te richten.

[Deveon]

eric.1 schreef op donderdag 27 april 2017 @ 19:40:
Het is geen zwart-wit verhaal. Het is een begin van een discussie, het begin van het vertalen van het menselijk instinct naar machines.

Machines zijn volledig afhankelijk van hun eigen instinct. Oftewel de programmatuur. Een autonome auto doet wat hem verteld wordt en daar zit de uitdaging. Wat nu instinctief gebeurd wordt in toekomst berekend, besproken en vastgelegd. De bonus daarop is nog hoe je mensenlevens gaat waarderen en met welke data. Leeftijd? Opleiding? Mogelijke potentie?

anessie schreef op donderdag 27 april 2017 @ 19:02:
Enig merk dat publiek lekt dat de bestuurder doden een optie is boven een rij schoolkinderen omver maaien ziet zijn verkoop zakken. Zo is het nu eenmaal.

Daarom moeten we dat in de wet verankeren. Iedereen wil een auto die de bestuurder ten koste van (vrijwel) alles beschermd, maar ziet het liefste alleen maar auto's op de weg die dat niet doen.

[Oekiejoekie]

Ik heb zelf ooit met een dilemma gezeten... Een kat rende de straat op (landweggetje) van achter een boerderij vandaan... Ik kon kiezen: Of de kat er aan, of ik mezelf met 70 rond een boom vouwen...

Als ik dit zo lees, ben ik blij dat Marianne Thieme de politiek in is gegaan, en geen systemen voor zelfrijdende auto's is gaan ontwikkelen...

[Reptile209]

Een best wel realistisch scenario dan: je rijdt 's avonds over een 80-km buitenweg en er steekt een konijn over. Je zou niet de eerste zijn die in een reflex zijn stuur omgooit en zichzelf doorrijdt tegen een boom. Gelukkig kan je auto een betere beslissing nemen: doorrijden en een berichtje naar de onderhoudsafdeling dat er een konijn in de grille zit.

Maar wat nu als het een hert van 200 kg is? Mogelijk zwaar letsel en auto aan gort als je doorrijdt. Hoe goed kan een auto de gevolgen van uitwijken inschatten? Ligt er grind of olie midden op de weg? Klapt er een band bij de noodstop? En nog 1000 andere scenario's... Maar het is een hert tegen een mens + 1000 kg metaal in beweging.
Maar wat nu als het een persoon (kind?) is? Of 5? Of een rennende ontsnapte crimineel? Constateert de auto dat? Moet het tot een andere beslissing leiden?

Een mens gaat - gekke reflexen daargelaten - eerder voor zelfbehoud. Het lijkt me niet vreemd of onacceptabel dat dat de basis is voor een beslissingssysteem: eigen veiligheid eerst, maar met een veel betere kennis over het voertuig, dus over de eigen mogelijkheden. Je kan toch niet alle consequenties en scenario's van alternatieve oplossingen overzien.

[RocketKoen]

anessie schreef op donderdag 27 april 2017 @ 19:02:
Enig merk dat publiek lekt dat de bestuurder doden een optie is boven een rij schoolkinderen omver maaien ziet zijn verkoop zakken. Zo is het nu eenmaal.

En niet voor niets.
Een van de dingen waar autofabrikanten bang voor zijn is dat mensen opzettelijk gaan fucken met zelfrijdende auto's.
Dat je bijvoorbeeld als voetganger prima de snelweg over kan steken, omdat alle zelfrijdende auto's je ontwijken of remmen.
Of de "remtest" van je voorligger.

Google had bijvoorbeeld een tijd lang problemen met hun auto's icm wielrenners. Omdat die met hun schoenen aan de trappers vastzitten proberen ze vaak te balanceren op hun fiets als ze stil moeten staan. Maar de auto was geprogrammeerd om een fietser met beide voeten op de trappers te behandelen als iemand die gaat rijden. Gevolg dat google stopte voor wielrenners, ondanks dat ze netjes voorrang kregen. Maar je kan dat stukje code niet zomaar weghalen, want de volgende keer is het geen wielrenner maar een gewone fietser die je geen voorrang geeft.

[Oekiejoekie]

Reptile209 schreef op donderdag 27 april 2017 @ 20:31:
Een best wel realistisch scenario dan: je rijdt 's avonds over een 80-km buitenweg en er steekt een konijn over. Je zou niet de eerste zijn die in een reflex zijn stuur omgooit en zichzelf doorrijdt tegen een boom. Gelukkig kan je auto een betere beslissing nemen: doorrijden en een berichtje naar de onderhoudsafdeling dat er een konijn in de grille zit.

Maar wat nu als het een hert van 200 kg is? Mogelijk zwaar letsel en auto aan gort als je doorrijdt. Hoe goed kan een auto de gevolgen van uitwijken inschatten?

Het verschil tussen een konijn en een hert, dat kan een computer nog wel bepalen lijkt me... Maar tussen bijvoorbeeld een konijn en een rat ? Die laatste is ongedierte waar zelfs actief op gejaagd wordt...

Overigens, voor ik als dierenbeul weggezet wordt. Mijn voorbeeld was van 18 jaar geleden, en toen waren er nog geen euro-NCAP-sterren...

[Marzman]

Oekiejoekie schreef op donderdag 27 april 2017 @ 20:40:
[...]


Het verschil tussen een konijn en een hert, dat kan een computer nog wel bepalen lijkt me... Maar tussen bijvoorbeeld een konijn en een rat ? Die laatste is ongedierte waar zelfs actief op gejaagd wordt...

Overigens, voor ik als dierenbeul weggezet wordt. Mijn voorbeeld was van 18 jaar geleden, en toen waren er nog geen euro-NCAP-sterren...

Je kan vanalles verzinnen; een jongetje of een meisje, een hetero of een homo, een chinees of een afrikaan, een postbode of een vuilnisophaler etc.

[Oekiejoekie]

Marzman schreef op donderdag 27 april 2017 @ 21:04:
[...]

Je kan vanalles verzinnen; een jongetje of een meisje, een hetero of een homo, een chinees of een afrikaan, een postbode of een vuilnisophaler etc.

Dat zijn zaken die uiterlijk lastig vast te stellen zijn op basis van een silhouet... Maar het verschil tussen een konijn en een hert, dat lijkt me evident... Als jij dat niet weet, dan had je mss op je vrije dag eens het bos in moeten gaan

[Marzman]

Oekiejoekie schreef op donderdag 27 april 2017 @ 21:07:
[...]


Dat zijn zaken die uiterlijk lastig vast te stellen zijn op basis van een silhouet... Maar het verschil tussen een konijn en een hert, dat lijkt me evident... Als jij dat niet weet, dan had je mss op je vrije dag eens het bos in moeten gaan

Zie jij het verschil tussen een Afrikaan en een Chinees niet dan ?

[Oekiejoekie]

Marzman schreef op donderdag 27 april 2017 @ 21:08:
[...]

Zie jij het verschil tussen een Afrikaan en een Chinees niet dan ?

Tot op beperkte hoogte... Als het donker is, en er rent iemand de weg op, dan zie ik als eerste het silhouet van een mens... en daar wijk ik dus voor uit... Die andere voorbeelden... als er een blanke man overdag de straat op rent, weet ik niet of die homo, hetero, vulnisman, bankdirecteur of wat dan ook is...

Overigens... ik beperk me tot de computer bepaalt dat iets een "mens" is. en ik heb hier geen zin in discussies of je wel over Limburgers, Friezen, Amsterdammers of haal er nog maar wat bevolkingsgroepen bij die meer beladen zijn heen mag rijden...

[ Voor 19% gewijzigd door Oekiejoekie op 27-04-2017 21:19 ]

[Nico_GTR]

anessie schreef op donderdag 27 april 2017 @ 19:02:
Enig merk dat publiek lekt dat de bestuurder doden een optie is boven een rij schoolkinderen omver maaien ziet zijn verkoop zakken. Zo is het nu eenmaal.

Toch zou dat imo wel moeten! Het kan toch niet zo zijn dat degene die het risico neemt meer waard is dan een onschuldige voorbijganger.

De eigenaar van de auto zelf vind dat de auto hem zal moeten beschermen.

eric.1 schreef op donderdag 27 april 2017 @ 19:40:
Als je nu zegt dat het een non-discussie is, heb je volgens mij niet geheel begrepen waar het over gaat.

Wellicht niet geheel duidelijk, voor mijzelf vind ik het een non-discussie omdat ik mij niet ga laten verplaatsen in een machine.
Niet begrepen waar het over gaat....meh ik heb meegeholpen met de ontwikkeling van een dergelijk systeem. Was zeer interessant.
Maar imo is het gewoon iets dat je als mensheid niet moet willen. Grote geesten zoals Steven Hawking en (oh de ironie) Elon Musk hebben gewaarschuwd voor de gevaren die een zelfdenkende humanoide of computersysteem met zich mee kan brengen.

Wil je niet autorijden neem dan de trein of werk harder dan krijg je een auto met chauffeur. En niet gaan zeuren dat je elke ochtend in de spits staat op de A58 vanuit Eindhoven richting Tilburg met in de avond hetzelfde probleem maar dan de andere kant op.............want dat heb ik ook.....

[Verwijderd]

''zelfrijdende'' auto's checken niet of het een hollander, fries, twentenaar, zwarte, bruine, of pimpelpaars mens is.

Ik heb het gevoel dat veel mensen '' ai '' teveel zien als wat in hollywood films '' ai '' is.

Marja het zijn leuke buzzwoordjes van bedrijven staat goed in de reclame.

Niks doen, gas los en remmen bij je theorie examen.

Niet- niks doen, gas los, remmen en uitwijken.

Is een goede reden voor omdat in de meeste gevallen die 3 voldoende en het veiligst zijn om te doen.

Uitwijken kan al snel fataal worden doordat je geen totaal overzicht hebt en je dus een fietser naast je schept, auto of paaltje.

Komt ook genoeg voor dat er '' teveel '' word uitgeweken en je dus tegen een boom aanklapt, of dat je precies goed uitwijkt maar toch '' het macht over het stuur '' verliest doordat de auto grip verliest en je even de kreukel zones van je auto wil testen tegen een boom, hoewel als je gewoon had geremt het ook goed was gegaan.

Bij '' zelfrijdende '' auto's met '' if this than do that yes/no '' heeft te auto wel een '' betere totaal overzicht '' waardoor uitwijken mischien wel een optie is, maar het probleem blijft dat als het wat gladder is of een putje in de weg ( ja meeste landen hebben niet als ons nl'ers zo'n goed weggendek ) dat ondanks de auto '' perfect '' uitwijkt alsnog in een slip komt.

Wat dus betekende dat je inplaats van bevoorbeeld met 50-55 km reed en opeens een fietser op de weg komt waardoor de auto remt en de totaal snelheid al snel lager word en beide personen het zullen overleven, dat als de auto zal uitwijken en in een slip komt zichzelf om een lanterenpaal klapt of nog erger dus een groep schoolkinderen raakt.

Komt ook nog bij dat auto's steeds meer zijn gemaakt om voetgangers en fietsers bij een aanrijding van voren de overlevingskans zo hoog mogenlijk te maken door het ontwerp van de neus/moterkap en zelfs de vooruit, dak.

De kreukelzones voorin de auto zijn niet alleen zo gemaakt voor jezelf als je tegen andere auto's, muur klapt maar ook erg beinvloed zodoende voetgangers, fietsers met minder letsel van een ongeluk er vanaf kunnen komen.

Daarom is in een noodsituatie remmen 99% van de gevallen de veiligste keuze, omdat als je dan toch iets raakt het met de voorkant zal zijn ( die gemaakt is met kreukelzones en dicht bij de persoon verstevigen om het optevangen ) en de snelheid lager is waardoor de survival chance hoger ligt.

Met uitwijken heb je de kans dat je dus iets zal gaan raken met de zijkant van je auto en als je auto dan bevoorbeeld overdwars op de weg is en die gene achter je kan niet uitwijken en remt wel maar raakt je alsnog met een bepaalde snelheid dus in de zijkant geef ik de achtermiddenpassegier de meeste overlevingskans...

[Sissors]

Ik zie al die ethische dilemmas vooral ontstaan door (amateur) ethici die ineens denken dat ze relevant kunnen zijn en mensen die zichzelf vervelen. Een zelfrijdende auto moet qua ongelukken maar één doel hebben: Ze proberen te voorkomen. En ik kan me nog voorstellen dat een transport met gevaarlijke stoffen een hogere prioriteit krijgt om te ontwijken, maar het is wel een gevaarlijke weg die je dan inslaat. Ik zie het al voor me: Zelfrijdende auto's die als er iets onverwachts gebeuren alle kanten op gaan slingeren:

Want die voetganger is jong dus die mogen we absoluut niet raken. Oh wacht, het is slechts een Japanse toerist en die zijn niet zo groot, huppake vol erin. Maar wacht, ze heeft een peuter achter haar lopen, toch de andere kant weer op sturen. Oftewel nee, laten we dat maar niet doen. Daarnaast zoals @McKaamos al schreef, het is onrealistisch, het is een 'probleem' wat niet bestaat in de praktijk.

Tja en zou je uiteindelijk een situatie krijgen waarbij onder druk van de publieke opinie auto's toch minder veilig moeten worden gemaakt door prioriteiten toe te kennen, dan komen bij mij op mijn achterbank twee zakken aardappels met een petje op: Dan kan mijn auto mooi naar alle andere doorgeven dat ik hoge prioriteit moet krijgen vanwege de 'kinderen'.

En een wat luchter einde, maar toch nog relevant: https://ic.tweakimg.net/c...2F1467643530-20160704.png

[BlakHawk]

Wat mij veel vervelender lijkt: de auto wijkt uit om een ongeluk te voorkomen en de baan waar je op uitwijkt had genoeg ruimte, maar de bestuurder daar reageert te laat. De auto heeft nu een ongeluk voorkomen, maar de schade van de auto die achterop jou knalt, is voor jouw rekening. Jouw auto wijkt namelijk uit.

Daarnaast, als mensen erachterkomen dat bepaalde types autopilots hebben, wordt het wel makkelijker bij rotondes... Oh he een Tesla, daar kan ik wel voor, die remt toch wel.

[McKaamos]

Sissors schreef op vrijdag 28 april 2017 @ 08:49:
Ik zie al die ethische dilemmas vooral ontstaan door (amateur) ethici die ineens denken dat ze relevant kunnen zijn en mensen die zichzelf vervelen. Een zelfrijdende auto moet qua ongelukken maar één doel hebben: Ze proberen te voorkomen. En ik kan me nog voorstellen dat een transport met gevaarlijke stoffen een hogere prioriteit krijgt om te ontwijken, maar het is wel een gevaarlijke weg die je dan inslaat. Ik zie het al voor me: Zelfrijdende auto's die als er iets onverwachts gebeuren alle kanten op gaan slingeren:

Want die voetganger is jong dus die mogen we absoluut niet raken. Oh wacht, het is slechts een Japanse toerist en die zijn niet zo groot, huppake vol erin. Maar wacht, ze heeft een peuter achter haar lopen, toch de andere kant weer op sturen. Oftewel nee, laten we dat maar niet doen. Daarnaast zoals @McKaamos al schreef, het is onrealistisch, het is een 'probleem' wat niet bestaat in de praktijk.

Tja en zou je uiteindelijk een situatie krijgen waarbij onder druk van de publieke opinie auto's toch minder veilig moeten worden gemaakt door prioriteiten toe te kennen, dan komen bij mij op mijn achterbank twee zakken aardappels met een petje op: Dan kan mijn auto mooi naar alle andere doorgeven dat ik hoge prioriteit moet krijgen.

En een wat luchter einde, maar toch nog relevant: https://ic.tweakimg.net/c...2F1467643530-20160704.png

Ik wil niet zeggen dat het probleem niet bestaat. Het is maar net hoe je daar tegenaan kijkt. Iedereen is daar anders in.
Sommige mensen vinden onderscheid tussen verschillende mensen belangrijk. Kinderen zijn belangrijker dan ouderen, kan een zienswijze zijn. Sommige mensen zijn simpelweg racistisch en vinden blanken belangrijker dan getinte mensen. Sommigen vinden iemand die bepaalde dingen doet (b.v. research naar kanker) belangrijk.

Aan de andere kant zijn we hier als westerlingen altijd vrij sterk bezig met gelijkheid.
Anti racisme, anti fascisme, gelijke kansen op de arbeidsmarkt (b.v. mannen/vrouwen, autochtoon/allochtoon, mensen met een arbeidshandicap v.s. gezond), gezondheidszorg, onderkomen, etc etc.
Als we daar aan vast houden, dan is het niets meer dan logisch om vooral géén onderscheid aan te gaan brengen. Iedereen is gelijk, dus dan is het uitzoeken van het beste pad op basis van statistiek een hele goede oplossing.
Laten we dat combineren met de wens van elk mens om zelfbehoud, dan is het ook niets meer dan logisch om de auto te zien als extensie van de persoon die er in rijdt en een autonome auto gelijk te trekken met een auto die bestuurd wordt door een mens.
Zo werkt het nu meestal ook. Ookal wijk je uit voor een spontaan overstekend konijn, dan is dat vaak eerder vanwege een schrikreactie dan medelijden voor het konijn. Je hebt in die split-second helemaal geen tijd om die emotie te voelen.

Om dan nog even verder te gaan op de technische onmogelijkheid om onderscheid te gaan maken.
Zoals @Verwijderd al zei is dat de visie op AI van veel mensen nogal Hollywood-stijl is.
Technisch is het extreem moeilijk om écht goed rekening te gaan houden met alle factoren die mee kunnen doen met de overweging.
Sowieso zit je dan al met het dilema 'welke factoren zijn van belang?'. Daar heeft iedereen een andere mening over.
En als je dan bepaald hebt welke factoren van belang zijn, hoe wil je dan gaan meten?
- Afmetingen bepalen. Kan vrij snel dus zou meegenomen kunnen worden in de berekening. Echter, dan kom je met het probleem van de overstekende japanse tourist, of misschien is iemand wel gewoon klein maar het systeem ziet hem/haar aan voor een kind. Plus. het systeem moet weten waar hij zich bevindt. In regio X is de gemiddelde lichaamslengte anders dan in regio Y.
- Optische herkenning. Zou fors hoge resolutie moeten hebben om gezichten te herkennen en op basis daar van een leeftijdscategorie toe te kennen. En met hoge resolutie komt ook grotere vertraging. Misschien wil je ook wel herkenning op kleding toevoegen. Op basis van kledingstijl helpen bepalen wat de leeftijd is. De auto zou een vorm van 'fashion sense' moeten hebben, en dat is ongelofelijk moeilijk om te vangen programmatuur. Daarbij is het ook nog eens onderhevig aan regionale trends, wat betekent dat de auto om de haverklap updates moet hebben om de trends te blijven volgen. Seizoenen zijn ook nog eens van invloed. In de winter zijn er genoeg mensen met dikke jassen aan en dan moet je aan een Michelin poppetje gaan herkennen wat het precies voor persoon is.
En dan praten we nog niet over de foutkansen als effect door menselijke acties. Misschien is iemand van pensioengerechtigde leeftijd, maar heeft zich vol laten spuiten met botox en van alles chirurgisch laten bewerken om er jong uit te zien. (hallo mevrouw Helwegen!) Of iemand die regelmatig onder de zonnebank ligt. Is die persoon getint of telt die persoon als blank?
- Wat als een van de factoren is wat iemand doet voor werk, of waar iemand zich voor in zet uit ideologie? Of misschien religie? Hoe ga je de desbetreffende personen identificeren? Gegevens in de auto laden zou technisch kunnen maar je hebt enorm veel opslag nodig die ook nog eens gruwelijk snel is, en dan hebben we het nog niet over de wet bescherming persoonsgegevens (wil jij dat al je gegevens in elke auto geplaatst zijn?). Ok, dan misschien met een online systeem wat een score afgeeft voor elke persoon die je auto detecteert? Dan zou dat over 4G moeten. Als alle auto's dat doen, kost dat behoorlijk bandbreedte en al die auto's bij elkaar gaan allicht zorgen voor forse vertragingen (ping tijden). Ben je wat verder van de mast, dan is de pingtime ook al groter. En wat als je spontaan geen bereik hebt? Slechte dekking? Zendmast offline ivm stroomstoring?
Stel dat dat allemaal getackeld kan worden met 6G of 7G en een dekkingsgraad van 100% en backuppower voor een hele week.
Dan moet de persoon nog correct geidentificeerd worden. Maar hoe? ID kaarten scannen? Iedereen een transponder in zijn/haar nek injecteren? Een QR code op je voorhoofd tatoeeren en die optisch laten herkennen?
Voor een truck met gevaarlijke lading zou een transponder nog niet eens een gek idee zijn. Maar voor een mens?
- En stel dat je b.v. criminelen lager gaat waarderen. Wie bepaalt dan de waarde? Hoe dichter het 'bij huis' is (hoe meer het jou beinvloed) hoe meer waarde verlaging jij vindt dat toepasselijk is. Stel dat er een pedofiel bij je in de straat woont en je wil je kinderen beschermen. Of de directeur van die ene verzekeringsmaatschappij die jou (en alle andere klanten, plus veroordeling gehad) heeft genaaid, woont bij je in de straat.

En zo zijn er nog stapels dingen te bedenken die sterk afhankelijk zijn van zienswijze.
Niemand gaat zijn handen er aan branden om daar in lijnen te trekken, afgezien van heel simpel en veilig: iedereen is gelijk.

[ Voor 3% gewijzigd door McKaamos op 28-04-2017 18:26 ]

[Yucon]

Ik probeer me heel hard te herinneren waar ik het gelezen heb, maar ik kwam laatst een interessante kijk op deze zaak tegen. Daar werd gesteld dat mercedes als eerste fabrikant een duidelijke keuze had gemaakt en dat was koste wat kost de inzittenden te beschermen. Dit omdat dat is waar mensen de auto voor kopen en dat dus ook ervan verwachten. Op basis daarvan verwachte het artikel dat andere fabrikanten dan vanzelfsprekend dezelfde keuze zouden moeten maken omdat anders hun auto's commercieel onacceptabel op achterstand zouden komen staan.

Herkent iemand de bron hiervan? Was het iets in een motorblaadje?

edit: dit refereert naar dezelfde uitspraak: http://www.autoexpress.co...upants-before-pedestrians

[ Voor 11% gewijzigd door Yucon op 28-04-2017 19:24 ]

[iamcj]

Yucon schreef op vrijdag 28 april 2017 @ 19:22:
Ik probeer me heel hard te herinneren waar ik het gelezen heb, maar ik kwam laatst een interessante kijk op deze zaak tegen. Daar werd gesteld dat mercedes als eerste fabrikant een duidelijke keuze had gemaakt en dat was koste wat kost de inzittenden te beschermen. Dit omdat dat is waar mensen de auto voor kopen en dat dus ook ervan verwachten. Op basis daarvan verwachte het artikel dat andere fabrikanten dan vanzelfsprekend dezelfde keuze zouden moeten maken omdat anders hun auto's commercieel onacceptabel op achterstand zouden komen staan.

Herkent iemand de bron hiervan? Was het iets in een motorblaadje?

edit: dit refereert naar dezelfde uitspraak: http://www.autoexpress.co...upants-before-pedestrians

Op zich wel logisch, het overgrote deel van de mensen zal instinctief ook voor zich zelf kiezen en het is het beste voor de fabrikant.

[anessie]

Ik ga dit even opgraven sinds de Duiters in een rapport een aantal richtlijnen geformuleerd hebben omtrent zelfrijdende auto's.

https://theconversation.c...for-driverless-cars-83227

http://www.bmvi.de/Shared...an-automated-driving.html

• Damage to property must take precedence over personal injury. In hazardous situations, the protection of human life must always have top priority.
• In the event of unavoidable accident situations, any distinction between individuals based on personal features (age, gender, physical or mental constitution) is impermissible.

http://www.sciencealert.c...ave-finally-been-released

If an accident cannot be avoided, the report say human safety must take precedence over animals and property. The software must try to avoid a collision altogether, but if that's not possible, it should take the action that does least harm to people.

The report also recognises that some decisions could be too morally ambiguous for the software to resolve.

In these cases, the ultimate decision and responsibility, at least for now, must be with the human sitting in the driver's seat, as control is swiftly transferred to them.

If they fail to act, the vehicle simply tries to stop. In the near future, as capability improves, vehicles might well become fully autonomous.

It's acknowledged that no system is perfect. If harmful outcomes cannot be reduced to zero, at least it will be below the current human level.

If a collision is unavoidable, the report say systems must aim for harm minimisation. There must be no discrimination on the basis of age, gender, race, physical attributes or anything else of any potential accident victim.

All humans are considered equal for the purposes of harm minimisation.

This makes the famed Trolley Dilemma irrelevant in as much as the software is not allowed to prioritise an individual's relative worth.

Over een paar jaar een schandaal van fraudulente software die de bestuurder boven de omstaanders zet?
Of interpreteer ik die richtlijn fout?

[ Voor 58% gewijzigd door anessie op 09-09-2017 02:05 ]

[Trommelrem]

Nico_GTR schreef op donderdag 27 april 2017 @ 16:27:
Stap jij in een vliegtuig zonder piloot? Derhalve stap ik niet in een auto die zichzelf kan besturen.

Ja. Ik ben een keer uitgestapt toen ik zag wie de co-pilot was. Ik wist hoe haar vlieglessen gingen en toen ik haar zag zitten ben ik direct weer uitgestapt. De maatschappij heeft mij overigens kosteloos omgeboekt, ondanks dat ik geen flexticket had. Zij werkt inmiddels ook niet meer als piloot: te vaak ontslagen.

Anyway, de computer maakt vaker de betere keuze dan de piloot. Zo is het straks ook met auto's. Met 4G/LTE kunnen auto's ook de databanken van bijvoorbeeld ziekenhuizen benaderen om te kijken wie de meeste overlevingskans heeft of wie de meeste belastingen betaalt. De computer is in staat om een onmenselijke maar logische keuze te maken.

[anessie]

Trommelrem schreef op zaterdag 9 september 2017 @ 04:01:
[...]Anyway, de computer maakt vaker de betere keuze dan de piloot. Zo is het straks ook met auto's. Met 4G/LTE kunnen auto's ook de databanken van bijvoorbeeld ziekenhuizen benaderen om te kijken wie de meeste overlevingskans heeft of wie de meeste belastingen betaalt. De computer is in staat om een onmenselijke maar logische keuze te maken.

De richtlijnen zeggen net dat de auto die keuzes niet mag maken..

[Fly-guy]

Trommelrem schreef op zaterdag 9 september 2017 @ 04:01:
[...]
Anyway, de computer maakt vaker de betere keuze dan de piloot. Zo is het straks ook met auto's.

Ik vraag mij dat af. Veruit de meeste keren dat we iets horen over of een computer het beter had kunnen doen is als de mens in de cockpit een fout maakt. Andersom, dus als de mens de computer corrigeert of iets moet doen wat de computer niet kan doen, daar hoor je zelden tot nooit iets over.
Ik durf te stellen dat de balans helemaal niet zo duidelijk door slaat richting de computer voor wat betreft de juiste beslissingen te maken.

Wel kan, zoals je al zegt, met een verbinding, er sneller een geïnformeerde beslissing genomen worden, de vraag is echter of dat ook de juiste is.

[Onbekend]

anessie schreef op zaterdag 9 september 2017 @ 01:56:
Over een paar jaar een schandaal van fraudulente software die de bestuurder boven de omstaanders zet?
Of interpreteer ik die richtlijn fout?

Stel dat je per ongeluk heel hard een drukke winkelstraat in komt rijden. Je moet de auto stoppen met zo min mogelijk doden. Stuur je de auto dan op een boom af (met jou als enige dode dus), of rij je richting het meest rustigste deel van de straat om jezelf het leven te besparen maar ten koste gaat van meerdere mensen die daar op straat liepen?


Nu de vraag of een zelfrijdende auto de bestuurder boven de mensenmassa mag zetten.... Ik zeg ja.
(In de praktijk zou het probleem wat ik hierboven heb beschreven niet voor mogen komen omdat de auto zelf zijn remafstand weet, net zoals iedereen heeft geleerd om 2 seconden afstand te houden.)

[anessie]

Onbekend schreef op zaterdag 9 september 2017 @ 23:15:
[...]Nu de vraag of een zelfrijdende auto de bestuurder boven de mensenmassa mag zetten.... Ik zeg ja.

In the event of unavoidable accident situations, any distinction based on personal features
(age, gender, physical or mental constitution) is strictly prohibited. It is also prohibited to
offset victims against one another. General programming to reduce the number of
personal injuries may be justifiable. Those parties involved in the generation of mobility
risks must not sacrifice non-involved parties.

http://www.bmvi.de/Shared...df?__blob=publicationFile

Komt steeds terug op The trolley dilemma.

[ Voor 101% gewijzigd door anessie op 10-09-2017 02:18 ]