De ethiek van autonoom rijden

[talkatoo]

Stel; je rijdt 130kmh over een snelweg met 'plots' 5 personen op de weg. Remmen is te laat.

Je hebt twee opties: de mensen dood rijden óf uitwijken tegen een betonnen muur (wat je het leven kost). Wat de meeste mensen in een dergelijke situatie doen is uitgezocht, uitwijken tegen de betonnen muur.

Maar zou je ook een autonome auto kopen waarvan je weet dat deze dit soort beslissingen voor jou maakt? Een auto die mathematisch berekend welke actie het minste levens kost, ook al gaat dit ten koste van het leven van de 'bestuurder'.

Video die dit probleem schetst:

[Video: https://www.facebook.com/wired/videos/10155141091613721/]

Interessante links (aanvullen mag):

Moral Machine
Computing and Moral Responsibility
Maschinenethik
BMVI-Bericht
Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure

[ Voor 44% gewijzigd door talkatoo op 13-10-2017 19:41 ]

[Fietsbel]

En wat is je eigen mening? en welke meningen kwam je tegen dmv de zoekfunctie op GoT? want deze vraag/strekking is al zovaak voorbij gekomen.

[MAX3400]

Alsof de autonome auto bij de beslissing "wijk uit" niet verder gaat rekenen en dus maar tegen de muur rijdt. Sterker nog; hoeveel betonnen muren ken jij op de snelweg waarbij je met 130km/h haaks kan uitwijken en frontaal raken? De kans dat je een niet-frontale botsing overleeft is echt tientallen, zo niet honderden, malen groter.

De vraag is dus meer: noem mij 1 auto die met 130km/h over 4 rijbanen breed (oftewel 14 meter) haaks kan uitwijken om zo de vluchtstrook, vangrail en daarna <random betonnen muur> te raken; dan discussieer is graag verder met je.

[wildhagen]

Je hebt twee opties: de mensen dood rijden óf uitwijken tegen een betonnen muur (wat je het leven kost).

Als je uitwijkt tegen zo'n barrier ben je echt niet meteen dood hoor, die kans is vrij klein zelfs. Zeker nu elke auto onderhand 10 airbags aan boord heeft.

Frontaal erop botsen doe je immers niet. Je maakt immers geen 90 graden-uitwijkmanouvre.

[moppentappers]

Mensen zijn vaak ook niet in staat om snel genoeg deze afweging te maken. Naar mijn mening is dat ook niet relevant, de auto moet remmen of indien mogelijk ontwijken. De afweging wie de auto moet redden.. Ik zie niet in waarom er tijd verspild moet worden aan dat soort dilemma's terwijl er ook tijd gestoken kan worden in het nog beter voorspellen van ongelukken.

[Onbekend]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 18:45:
Je hebt twee opties: de mensen dood rijden óf uitwijken tegen een betonnen muur (wat je het leven kost). Wat de meeste mensen in een dergelijke situatie doen is uitgezocht, uitwijken tegen de betonnen muur.

Maar zou je ook een autonome auto kopen waarvan je weet dat deze dit soort beslissingen voor jou maakt?

Wie zegt dat elk merk autonome auto de zelfde beslissing zou maken? Reken maar dat goedkopere merken andere beslissingen gaan maken als je dat zou vergelijken met duurdere merken?

(En tegelijkertijd dat ik dat schrijf realiseer ik mij dat autonome auto's straks expres schade aan zichzelf kunnen gaan veroorzaken zodat aangesloten garagebedrijven continu omzet kunnen halen met het repareren van auto's en dat de fabrikanten zelf met enige regelmaat reserveonderdelen kunnen verkopen. )

[talkatoo]

wildhagen schreef op vrijdag 13 oktober 2017 @ 18:52:
[...]


Als je uitwijkt tegen zo'n barrier ben je echt niet meteen dood hoor, die kans is vrij klein zelfs. Zeker nu elke auto onderhand 10 airbags aan boord heeft.

Frontaal erop botsen doe je immers niet. Je maakt immers geen 90 graden-uitwijkmanouvre.

Voor de duidelijkheid: dit voorbeeld is hypothetisch, er zijn tal voorbeelden te bedenken waarbij je moet uitwijken en zelf verongelukt.

Hoort een auto dit voor ons te beslissen? Hierover nadenken is wat mij betreft essentieel in de ontwikkeling van autonome voertuigen.

[talkatoo]

MAX3400 schreef op vrijdag 13 oktober 2017 @ 18:50:
Alsof de autonome auto bij de beslissing "wijk uit" niet verder gaat rekenen en dus maar tegen de muur rijdt. Sterker nog; hoeveel betonnen muren ken jij op de snelweg waarbij je met 130km/h haaks kan uitwijken en frontaal raken? De kans dat je een niet-frontale botsing overleeft is echt tientallen, zo niet honderden, malen groter.

De vraag is dus meer: noem mij 1 auto die met 130km/h over 4 rijbanen breed (oftewel 14 meter) haaks kan uitwijken om zo de vluchtstrook, vangrail en daarna <random betonnen muur> te raken; dan discussieer is graag verder met je.

Je voorbeeld: een provinciale weg met een boom op elke paar meter.

[TommyboyNL]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 19:15:
[...]


Je voorbeeld: een provinciale weg met een boom op elke paar meter.

Als je daar 130 gaat rijden verdien je het om om een boom heen gevouwen te worden.

[naitsoezn]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 19:11:
[...]


Voor de duidelijkheid: dit voorbeeld is hypothetisch, er zijn tal voorbeelden te bedenken waarbij je moet uitwijken en zelf verongelukt.

Echt? Ik kan niet zoveel reële scenario's bedenken...

Hoort een auto dit voor ons te beslissen? Hierover nadenken is wat mij betreft essentieel in de ontwikkeling van autonome voertuigen.

Hoezo? Maakt je die beslissing ooit expliciet zelf? Zou jij serieus een auto wel of niet kopen op basis van of hier een regel voor is geprogrammeerd? Want dat laatste zul je niet zo snel aantreffen in een willekeurig 'intelligent' systeem.

---

Waar kom toch het idee vandaan dat dit soort overwegingen de 'toekomst' bepalen van de toepassingen van kunstmatige intelligentie?

[begintmeta]

Ik denk dat de tijd dat een auto dat voor ons zal beslissen nog wel wat verder in de toekomst ligt, voorlopig zal vooral degene die de auto programmeert dergelijke afwegingen inplannen. Over wat juist handelen is (of het nu door mens of machine is), is natuurlijk ook nog veel te bespreken... Er wordt ook nogal wat over gepubliceerd trouwens, misschien aardig om voor dit topic een literatuuroverzicht te maken.

Misschien wel wat aardige initiele links:
Moral Machine
Computing and Moral Responsibility
Maschinenethik
BMVI-Bericht
Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure

[ Voor 15% gewijzigd door begintmeta op 13-10-2017 19:28 ]

[Marcel Br]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 18:45:
Stel; je rijdt 130kmh over een snelweg met 'plots' 5 personen op de weg. Remmen is te laat.

Je hebt twee opties: de mensen dood rijden óf uitwijken tegen een betonnen muur (wat je het leven kost). Wat de meeste mensen in een dergelijke situatie doen is uitgezocht, uitwijken tegen de betonnen muur.

Kun je even een bron geven van die laatste bewering, ik heb dat nog nooit zo absoluut gesteld zien worden.

[Ramon]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 18:45:
Stel; je rijdt 130kmh over een snelweg met 'plots' 5 personen op de weg. Remmen is te laat.

Je hebt twee opties: de mensen dood rijden óf uitwijken tegen een betonnen muur (wat je het leven kost). Wat de meeste mensen in een dergelijke situatie doen is uitgezocht, uitwijken tegen de betonnen muur.

Maar zou je ook een autonome auto kopen waarvan je weet dat deze dit soort beslissingen voor jou maakt? Een auto die mathematisch berekend welke actie het minste levens kost, ook al gaat dit ten koste van het leven van de 'bestuurder'.

De autonome auto heeft allang afgeremd natuurlijk en staat ruim vóór die 5 personen stil.

[talkatoo]

naitsoezn schreef op vrijdag 13 oktober 2017 @ 19:19:
[...]

Echt? Ik kan niet zoveel reële scenario's bedenken...


[...]

Hoezo? Maakt je die beslissing ooit expliciet zelf? Zou jij serieus een auto wel of niet kopen op basis van of hier een regel voor is geprogrammeerd? Want dat laatste zul je niet zo snel aantreffen in een willekeurig 'intelligent' systeem.

---

Waar kom toch het idee vandaan dat dit soort overwegingen de 'toekomst' bepalen van de toepassingen van kunstmatige intelligentie?

Een scenario kan dus bijvoorbeeld zijn op een provinciale weg met bomen. Deze beslissing maak je nooit expliciet zelf, maar de wetenschap dat een auto uitwijkt wat in theorie jou dood kan betekenen lijkt me niet echt een fijne gedachte.

En ja voordat ik een volledig autonome auto koop (dus geen Tesla) wil ik complete inzage in de techniek.

[ Voor 23% gewijzigd door talkatoo op 13-10-2017 19:31 ]

[talkatoo]

Ramon schreef op vrijdag 13 oktober 2017 @ 19:30:
[...]

De autonome auto heeft allang afgeremd natuurlijk en staat ruim vóór die 5 personen stil.

Ik geloof niet in een wereld waarbij alles voorkomen kan worden.

[begintmeta]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 19:31:
... maar de wetenschap dat een auto uitwijkt wat in theorie jou dood kan betekenen lijkt me niet echt een fijne gedachte....

Is het vervelender als de auto dat doet dan als je het zelf doet?

[naitsoezn]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 19:31:
[...]

En ja voordat ik een volledig autonome auto koop (dus geen Tesla) wil ik complete inzage in de techniek.

Ik koop voorlopig nog geen autonome auto om heel andere redenen, en ik kan me niet voorstellen dat dit een serieuze overweging is bij mensen die er wél serieus over nadenken om zo'n auto te kopen . Dit filosofische vraagstuk is een, door de filosofen gehyped 'probleem', wat opeens de media heeft weten te bereiken, en totaal niets (maar dan ook helemaal *niets*) met de technologische vooruitgang te maken heeft. Er zal nooit een auto op de markt komen waar die keuze expliciet ingebouwd gaat zijn.

[Ramon]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 19:33:
[...]


Ik geloof niet in een wereld waarbij alles voorkomen kan worden.

En ik geloof niet in een wereld waar alles zwart-wit is.

[begintmeta]

naitsoezn schreef op vrijdag 13 oktober 2017 @ 19:36:
... Er zal nooit een auto op de markt komen waar die keuze expliciet ingebouwd gaat zijn.

Impliciet wel?

Hoe bedoel je 'en totaal niets (maar dan ook helemaal *niets*) met de technologische vooruitgang te maken heeft'?

[D-Three]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 18:45:
Wat de meeste mensen in een dergelijke situatie doen is uitgezocht, uitwijken tegen de betonnen muur.

Wat aan 130 km/u geen bewuste keuze is. Men ziet te laat iets opduiken, trekt in een reflex aan het stuur en bam...

[naitsoezn]

begintmeta schreef op vrijdag 13 oktober 2017 @ 19:39:
[...]

Impliciet wel?

Ja hoor. Da's het grote nadeel van de Machine Learning techniek: Het is bijna onmogelijk om te achterhalen waarom een lerend systeem een bepaalde keuze gemaakt heeft. Als er dus voldoende data in gestopt wordt die een bepaalde keuze billijken, dan zal 'het systeem' die keuze overnemen. Impliciet noem ik dat. Er zal in dat geval geen programmeur aan te pas komen om in te typen "If (*insert-filisophical-situation*) do *whatever* end-if". Expliciet noem ik dat. Er zal alleen een over-over-over-grote kans zijn dat een bepaalde IRL-situatie nooit in de trainings-data heeft gezeten.

Hoe bedoel je 'en totaal niets (maar dan ook helemaal *niets*) met de technologische vooruitgang te maken heeft'?

Precies zoals ik het zeg.

[ Voor 8% gewijzigd door naitsoezn op 13-10-2017 19:46 ]

[begintmeta]

naitsoezn schreef op vrijdag 13 oktober 2017 @ 19:44:
...
Ja hoor. Da's het grote nadeel van de Machine Learning techniek: Het is bijna onmogelijk om te achterhalen waarom een lerend systeem een bepaalde keuze gemaakt heeft. Als er dus voldoende data in gestopt wordt die een bepaalde keuze billijken, dan zal 'het systeem' die keuze overnemen. Impliciet noem ik dat. Er zal in dat geval geen programmeur aan te pas komen om in te typen "If (*insert-filisophical-situation*) do *whatever* end-if".

Dat denk ik inderdaad ook, de vraag blijft uiteindelijk welke keuze juist is, wie die keuze ook maakt. Uiteindelijk kunnen we er misschien voor vertrek even een goed gesprek over hebben met onze auto

Precies zoals ik het zeg.

Waarom zou dat zo zijn? Ik denk op zich dat dergelijke vragen juist door technologische vooruitgang aan de orde kunnen komen, tenslotte hoefde je je eerst niet (/veel minder) af te vragen wat de auto zou moeten doen (en hoe je die eventueel iets kan laten doen) of wat je auto zou doen, maar alleen wat je zelf zou moeten doen, of wat je hond zou moeten doen (en wat je zou moeten doen om je hond iets te laten doen)

[ Voor 11% gewijzigd door begintmeta op 13-10-2017 19:50 ]

[talkatoo]

naitsoezn schreef op vrijdag 13 oktober 2017 @ 19:44:

Er zal in dat geval geen programmeur aan te pas komen om in te typen "If (*insert-filisophical-situation*) do *whatever* end-if".

Haha, nee dat niet. Maar misschien wel een beslissing (stuur correctie) gebaseerd op een 'possible victim calculation'. Die in jou nadeel kan uitvallen.

[naitsoezn]

begintmeta schreef op vrijdag 13 oktober 2017 @ 19:48:
[...]
Waarom zou dat zo zijn? Ik denk op zich dat dergelijke vragen juist door technologische vooruitgang aan de orde kunnen komen

Ah, ik zie het verschil in standpunt, gaan we niet uitkomen. Ik ben niet zo van de 'als ik de techniek voor de atooombom niet had gepubliceerd, zouden we nooit een Hiroshima hebben gehad'-redenatie. Is ook een heel andere discussie dan de initiële TS denk ik, maar in beide gevallen haak ik af

[RemcoDelft]

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 19:11:
Hoort een auto dit voor ons te beslissen? Hierover nadenken is wat mij betreft essentieel in de ontwikkeling van autonome voertuigen.

Als het om ethische vraagstukken gaat ken ik er nog wel een paar. Voorbeeld: de overheid geeft miljoenen uit om het leven van 1 zieke iets te rekken. Met diezelfde miljoenen zouden ook extra vangrails gebouwd kunnen worden, zodat jij niet tegen die betonnen muur rijdt. Toch kiest de overheid ervoor die zieke zeer dure medicatie met nauwelijks effect te geven.
Is dat ethisch?

edwinkuipers89 schreef op vrijdag 13 oktober 2017 @ 19:15:
Je voorbeeld: een provinciale weg met een boom op elke paar meter.

Ik stel voor verkeersregels prioriteit te geven: middenop die provinciale weg lopen mag niet, dus niet tegen een betonnen muur rijden om ze te redden.

naitsoezn schreef op vrijdag 13 oktober 2017 @ 19:19:
Echt? Ik kan niet zoveel reële scenario's bedenken...

Als je autonome voertuigen met liften zou gaan vergelijken kom je een eind. Er gebeuren veel meer ongevallen op een trap, de lift is gewoon heel veilig.
Goede autonome voertuigen kunnen potentieel meerdere doden en heel veel gewonden per dag besparen. Netto levert het dus een besparing aan mensenlevens op. Maar ik heb het idee dat er veel meer gezocht wordt naar een schuldige als het een autonoom voertuig betreft.
Ik kwam ooit een vraag tegen: "wat als-ie achteruit rijdt en er een kind achter zit?", bij een presentatie van een people mover. Elke auto, bus of vrachtwagen heeft hetzelfde probleem en ziet dat hypothetische kind ook niet, maar daarbij maakt niemand zich er zorgen om.

Ander voorbeeld: wat nou als jijzelf 5 mensen doodrijdt omdat je niet tegen een betonnen muur wou klappen? Is het dan dood door schuld?

begintmeta schreef op vrijdag 13 oktober 2017 @ 19:23:
Ik denk dat de tijd dat een auto dat voor ons zal beslissen nog wel wat verder in de toekomst ligt, voorlopig zal vooral degene die de auto programmeert dergelijke afwegingen inplannen.

Of de wetgever gaat het bepalen, om te voorkomen dat goedkoop model dinkytoy mensen redt, maar Mercedes E5000 de bestuurder redt. Of eigen prioriteit als dealeroptie!

Marcel Br schreef op vrijdag 13 oktober 2017 @ 19:26:
Kun je even een bron geven van die laatste bewering, ik heb dat nog nooit zo absoluut gesteld zien worden.

Genoeg mensen die voor een beestje tegen een boom rijden.
https://www.gelderlander....ijken-voor-wild~a8a36eb3/

naitsoezn schreef op vrijdag 13 oktober 2017 @ 19:36:
Ik koop voorlopig nog geen autonome auto om heel andere redenen, en ik kan me niet voorstellen dat dit een serieuze overweging is bij mensen die er wél serieus over nadenken om zo'n auto te kopen

Uiteindelijk zullen er ongevalstatistieken per merk bekend worden, net zoals er nu pechstatistieken worden bijgehouden per automerk. Zeg maar als uitbreiding op de huidige veiligheidsratings. Als blijkt dat auto A aanzienlijk gevaarlijker is dan auto B, kiezen mensen nu al de auto met de meeste sterren.

[ Voor 26% gewijzigd door RemcoDelft op 13-10-2017 20:11 ]

[naitsoezn]

RemcoDelft schreef op vrijdag 13 oktober 2017 @ 20:04:
Als je autonome voertuigen met liften zou gaan vergelijken kom je een eind.

Uuhnmm, nee, sorry. Op geen enkele manier kan ik een dergelijke situatie bedenken waar ik een actieve beslissing (kiezen tussen mijn eigen leven of dat van één of meerdere anderen) inruil voor een geautomatiseerde beslissing.

Uiteindelijk zullen er ongevalstatistieken per merk bekend worden, net zoals er nu pechstatistieken worden bijgehouden per automerk. Zeg maar als uitbreiding op de huidige veiligheidsratings. Als blijkt dat auto A aanzienlijk gevaarlijker is dan auto B, kiezen mensen nu al de auto met de meeste sterren.

Daar ben ik het dan wél mee eens, maar heeft imho weinig met ethiek te maken

[ Voor 32% gewijzigd door naitsoezn op 13-10-2017 20:12 ]

[ybos]

MAX3400 schreef op vrijdag 13 oktober 2017 @ 18:50:
Alsof de autonome auto bij de beslissing "wijk uit" niet verder gaat rekenen en dus maar tegen de muur rijdt. Sterker nog; hoeveel betonnen muren ken jij op de snelweg waarbij je met 130km/h haaks kan uitwijken en frontaal raken? De kans dat je een niet-frontale botsing overleeft is echt tientallen, zo niet honderden, malen groter.

De vraag is dus meer: noem mij 1 auto die met 130km/h over 4 rijbanen breed (oftewel 14 meter) haaks kan uitwijken om zo de vluchtstrook, vangrail en daarna <random betonnen muur> te raken; dan discussieer is graag verder met je.

Het gaat toch helemaal niet om of het mogelijk is

TS stelt toch duidelijk de vraag: STEL , daarmee beweerd hij helemaal niet of het technisch mogelijk is of niet, is ook helemaal niet relevant in zijn vraag.
Persoonlijk vind ik het jammer dat iemand die een, naar mijn mening, best interessante discussie wil starten op bovenstaande manier afgekapt word, zeker eindigend met de zin: "dan discussieer ik graag verder met je"
Juist een vreemde (niet vaak voorkomende ) en dus overdreven stelling schetsen/innemen is een goede basis voor een gezonde discussie!

[begintmeta]

naitsoezn schreef op vrijdag 13 oktober 2017 @ 20:11:
...
Uuhnmm, nee, sorry. Op geen enkele manier kan ik een dergelijke situatie bedenken waar ik een actieve beslissing (kiezen tussen mijn eigen leven of dat van één of meerdere anderen) inruil voor een geautomatiseerde beslissing.
...

Heb je meer problemen met geautomatiseerde beslissingen dan met menselijke beslissingen? Elke keer als ik de straat opga, leg ik mijn leven in handen van mensen die eventueel zo'n afweging maken. (een beetje hyperbolisch natuurlijk, maar ik denk dat de strekking duidelijk is).

[deepbass909]

Modbreak:

Deze vraag is al meerdere malen voorbij gekomen hier (en daarbuiten):

Onder andere:
Autonoom autorijden
Zelfrijdende wagens - hoe ziet deze toekomst eruit?
Hulp nodig bij een artikel over zelfrijdende auto's

Ik raad de TS aan eerst die topics door te lezen, want vrijwel alle punten zijn daarin al uitgebreid voorbij gekomen, ook de ethische kwesties.

Discussiëren kan in één van die topics, deze gaat op slot.