Autonoma bilar - etiska dilemma

[Oddball]

Följande länk leder till ett inlägg där man hävdar att etiska dilemma är irrelevant för autonoma bilar.

http://www.driverless-future.com/?page_ ... judgements

Om jag skulle hamna i en situation där jag måste välja mellan att köra över ett barn eller en pensionär så har jag mitt val klart för mig (ungj..n som repade min Tesla ). Men är det självklart att en autonom bil skall behöva välja? Är det OK att köra över båda för att inte hamna i tvist?

Hur kommer de etiska spelreglerna se ut för autonoma bilar? Eller är etiska dilemma irrelevanta så som inlägget ovan hävdar?

Låt debatten börja (ser fram emot galghumorn som nästan är oundviklig på detta sköna forum )

[Bjelke]

Som det ser ut nu så har vi några år på oss att fundera på saken iaf

[Mickep]

det kommer bli inställningar man får göra vilka grupperingar man är ok med att döda.(eller om man i alla lägen skall döda föraren i bilen)
kan man föresten döda någon i en tesla? vet att volvo med sitt 60 årskunnande av säkerhet låter gaspedalen override:a pedestrian självstoppen ( de demonstrerade det på en ökänd video) med tanke på hur säker teslan är kanske det är det förvalda valet (att bilen krashar in i en vägsugga) per default. kanin på vägen = in i närmsta träd. ( för i sådana etiska diskussioner är de alltid någon som dör, det finns inget mellanläge)
det finns en scen i filmen pulp fiction där bla bruce willis ser en som torterat honom och därmed kör över denna på övergångstället.( hade det ens varit möjligt med dagens bilar?) med teslans kraftiga acceleration borde man kunna nå dödlig hastighet bara på några meter. man måste säkert avmarkera autostoppet som ligger djupt ner i menyn om man får blodlust någon gång.(där borde kanske tesla skicka ett sms till polisen, för bara någon kallblodig sociopat skulle göra något sådant, vet att volvo har menyalternativet men undrar om tesla har det)

[_TonyV]

Som det ser ut nu så har vi några år på oss att fundera på saken iaf

Jag håller med, känns som racet mot full autonomi går för fort nu. Lagar och frågeställningar som denna hinner inte sätta sig. Skulle nog vara bättre att få ut mer eldrivna bilar först, bra utbyggd laddinfra, ändra stora massans inställning till elbilar. Det måste komma ut elbilar i alla kategorier, större urval.
Jag tror inte vi är mentalt redo att lämna över ratten helt till datorn. En minimal klick av pionjärer ja.
När man ser dessa presentationer idag så är det för mycket sci-fi.
Såg Nissans CES presentation.
Så flådigt, de har konversationer med bilen, bilen håller koll på hela ditt liv istort. Nä funkar inte så, än iallafall.

[JFAH]

Det finna en mängd etiska problem som poppar upp som man annars inte tagit hänsyn till. En autonom bil kan ex. ser runt omkring sig. Den kan också detektera vad som händer framför den, och som tesla visat inte bara direkt framför utan till och med en bil till framför. Jag kan tänka mig hundratals nya möjligheter att tackla en knivig situation som inte en människa kan hantera. Oc det innebär en mängd ställningstaganden som man annars inte behövt bry sig om eftersom det varit orimligt att ta hänsyn till dem. Är det ok att väja för ett marsvin på vägen? eller kör man över det? Var går gränsen? Är det ok at köra på en hund? katt? eller klippa mamman istället för barnvagnen? Om bilen har tre barn i baksätet, är det ok att köra på pensionären på övergångstället framför för att komma undan lastbilen som håller på att korta av din bil med 1.5 meter bakifrån? Allt det här har man tidigare inte behövt fundera på eftersom det hade varit helt orimligt förvänta sig att en mänsklig chaufför hade ens uppfattat situationen, än mindre rationellt resonerat fram ett beslut. Jag tror att just juridiken och de etiska avvägandena kommer bli väldigt håriga och intressanta att ta sig igenom.

[Torkel]

Allt det här har man tidigare inte behövt fundera på eftersom det hade varit helt orimligt förvänta sig att en mänsklig chaufför hade ens uppfattat situationen, än mindre rationellt resonerat fram ett beslut.

Mänskliga förare klipper barnvagnen 9 av 10 gånger. Vi kanske hinner reagera men kan inte fatta ett beslut.

[Bjelke]

Som det ser ut nu så har vi några år på oss att fundera på saken iaf

Jag håller med, känns som racet mot full autonomi går för fort nu. Lagar och frågeställningar som denna hinner inte sätta sig. Skulle nog vara bättre att få ut mer eldrivna bilar först, bra utbyggd laddinfra, ändra stora massans inställning till elbilar. Det måste komma ut elbilar i alla kategorier, större urval.
Jag tror inte vi är mentalt redo att lämna över ratten helt till datorn. En minimal klick av pionjärer ja.
När man ser dessa presentationer idag så är det för mycket sci-fi.
Såg Nissans CES presentation.
Så flådigt, de har konversationer med bilen, bilen håller koll på hela ditt liv istort. Nä funkar inte så, än iallafall.

Ungefär som "good morning Michael" som kit säger i en viss film

Jag tror som sagt att det dröjer innan juridik osv måste funka för tekniken är inte klar än på ett tag iaf, men företag som
Tesla kommer antagligen att ligga i fronten ett bra tag och säkert vara bland dom första att "släppa på" AP på autonom
nivå fast med en förare på plats med ansvar osv (precis som nu sas).

[Oppfinnarn]

Gissar att i Sverige så blir lagen skriven så att bilen skall googla in på Taxeringskalendern.se och den som betalar minst i skatt får sämst utgångsläge
#GalghumorEfterfrågades

[Tars]

Gissar att i Sverige så blir lagen skriven så att bilen skall googla in på Taxeringskalendern.se och den som betalar minst i skatt får sämst utgångsläge
#GalghumorEfterfrågades

Eller går in på Lexbase och tar de värsta förbrytarna.


Skickat från min Motorola v66 med Tapatalk

[Daoops]

Hur kommer de etiska spelreglerna se ut för autonoma bilar? Eller är etiska dilemma irrelevanta så som inlägget ovan hävdar?
Låt debatten börja (ser fram emot galghumorn som nästan är oundviklig på detta sköna forum )

Om man med autonomi går från 1 miljon döda i trafiken varje år till tre döda pensionärer och en katt så är det väl iallafall inte värt att bromsa autonomi..

[AGCF]

Följande länk leder till ett inlägg där man hävdar att etiska dilemma är irrelevant för autonoma bilar.

http://www.driverless-future.com/?page_ ... judgements

Om jag skulle hamna i en situation där jag måste välja mellan att köra över ett barn eller en pensionär så har jag mitt val klart för mig (ungj..n som repade min Tesla ). Men är det självklart att en autonom bil skall behöva välja? Är det OK att köra över båda för att inte hamna i tvist?

Hur kommer de etiska spelreglerna se ut för autonoma bilar? Eller är etiska dilemma irrelevanta så som inlägget ovan hävdar?

Låt debatten börja (ser fram emot galghumorn som nästan är oundviklig på detta sköna forum )

Jag håller med artikelförfattaren helt. Det är typiska kliniska scenarior som juridikprofessorer hittar på men som inte existerar i verkligheten. Biltillverkarna ska absolut inte ge sig in och programmera medvetna val för i det ögonblicket blir de ansvariga för när koden har dödat. Koden ska undvika kollision och om det är omöjligt, ha så låg fart som möjligt i kollisionen.

Eftersom sensorerna inte har några döda vinklar, inte har någon reaktionssträcka o.s.v. så kommer de här situationerna nästan inte att kunna uppstå. Eftersom exempelvis svenska lagen säger att man ska kunna stanna inom sin siktsträcka så kommer autonomi level 4 inte få köra fortare i kurvor mm än att de kan stamma för varje hinder. Vidare tror jag även att fotgängarskyddet kommer att utvecklas.

[LarsL]

Precis när jag tog körkort så lärde jag mig aldrig att väja för pensionärer och köra på barn eller tvärtom. Däremot lärde jag mig att jag skulle hålla rätt hastighet och rätt avstånd så att jag alltid skulle kunna stanna eller väja för ett hinder eller en fara. Jag har ofta brutit mot detta, för att jag är mänsklig, men det kommer "aldrig" den autonoma bilen göra.

[bylund]

Jag håller med artikelförfattaren helt. Det är typiska kliniska scenarior som juridikprofessorer hittar på men som inte existerar i verkligheten. Biltillverkarna ska absolut inte ge sig in och programmera medvetna val för i det ögonblicket blir de ansvariga för när koden har dödat. Koden ska undvika kollision och om det är omöjligt, ha så låg fart som möjligt i kollisionen.

Eftersom sensorerna inte har några döda vinklar, inte har någon reaktionssträcka o.s.v. så kommer de här situationerna nästan inte att kunna uppstå. Eftersom exempelvis svenska lagen säger att man ska kunna stanna inom sin siktsträcka så kommer autonomi level 4 inte få köra fortare i kurvor mm än att de kan stamma för varje hinder. Vidare tror jag även att fotgängarskyddet kommer att utvecklas.

Fast då saker flyttar på sig i trafiken räcker ju siktsträcka bara om allt annat är statiskt. Dessutom kan underlag t ex felbedömas, och då är inte stoppsträckan den förväntade. Människor, djur, fordon kan komma in från sidan därifrån de inte syntes. Autonoma bilar måste alltså kunna hantera krocksituationer. Att välja att inte ta beslut i dessa scenarier, utan att låta utfallet vara odefinierat är också en typ av val.

Dessutom påstår jag att det visst är reaktionssträcka inblandad. En dator får indata från sensorer, som ska processas, och det tar en viss tid, och beroende på hastigheten kommer bilen hinna färdas en viss sträcka medan den processningen pågår. Förhoppningsvis snabbare reaktioner än människor, men ändå längre än noll.

[bylund]

Man frågar i artikeln varför vi skulle kunna kräva att en maskin ska ta ett etiskt beslut som människor inte är kapabla att ta i dessa situationer.
Mitt svar är för att vi kan. Inte begära att maskinen tar ett etiskt beslut såklart, men vi kan ta beslutet i förväg. Att en människa inte kan förväntas handla på ett visst sätt tycker jag är irrelevant.

Naturligtvis kan vi inte förutse alla scenarier och programmera för dem. Men vi har större möjligheter att ta genomtänkta beslut med en maskin som har större kontroll på situationen än en panikslagen människa som reagerar reflexmässigt. Att stoppa huvudet i sanden tycker jag inte är riktigt. Detta är riktiga frågor som verkligen behöver diskuteras. Sedan kan man ju komma fram till att det är rätt att bara tvärnita och inte försöka uppnå ett visst resultat, men det är som jag sa ovan också ett beslut.

Jag håller dock med artikelförfattaren om att det viktiga är att se till att bilen inte fattar fel beslut, inte att den nödvändigtvis fattar rätt beslut. Och jag tycker absolut inte att man ska försöka förstå vilka man har att välja på att döda och försöka sikta på den som är minst värd.

Att inget är säkert är inte heller ett argument. Dessa system jobbar väldigt mycket med sannolikheter, där man viktar värdet av olika utfall. Så om man poängsätter vissa utfall olika kommer dessa att ge olika försök till handlande från maskinens sida.

[Oddball]

Jag håller med artikelförfattaren helt. Det är typiska kliniska scenarior som juridikprofessor hittar på men som inte existerar i verkligheten

Så autonoma bilar medför per automatik att inga oförutsedda trafiksituationer kan uppstå där inte etiskt svåra beslut behöver tas?

Det är ju t.ex inte alltid bara att minimera farten som är den "bästa" lösningen på en situation. Ibland kan det ju t.ex vara en klar fördel att offra bilen för att undvika en allvarligare kollision med ett annat fordon.

Som exempel kan jag ta en situation som jag råkade ut för förra vintern. Jag bromsade extra tidigt inför en T-korsning ut mot en större väg, men missbedömde det extremt hala underlaget. Trots tidig inbromsning så fortsatte bilen med ilsket knattrande ABS ut mot den större vägen. Ser att det kommer en bil i hög fart från vänster som jag kommer få i sidan om jag inte får stopp och tar då beslutet att sätta bilen i diket precis innan korsningen. Som tur var så fick bilen fäste precis innan planen implementerades.

1) Har mkt svårt att se att en autonom bil hade bromsat tidigare (då underlaget och därmed greppet ändrat sig sen accelerationen)

2) Hade en autonom bil "insett" att bara minimera farten genom att bromsa och köra rakt fram hade varit en potentiellt dödlig lösning eller hade den "hittat" utvägen att offra bilen?

3) Om det hade gått en person i vägrenen (på väg till busshållplatsen en bit bort) som hindrat lösningen med dikeskörning så hade lösningen för minimal personskada antagligen varit att köra på personen i vägrenen (eftersom farten då skulle varit tämligen låg)

Vilken lösning hade en autonom bil taget?
Jag skulle gissa på "bromsa till lägsta möjliga fart men fortsätt rakt fram" --> mkt kraftig sidokollision

Är det OK att en autonom bil bara tar "den enkla utvägen" när en krissituation uppstår (med risk för icke optimalt utfall) eller kommer det ställas krav på avancerad utfallsanalys?

[Svenssons]

Jag håller med artikelförfattaren helt. Det är typiska kliniska scenarior som juridikprofessor hittar på men som inte existerar i verkligheten

Så autonoma bilar medför per automatik att inga oförutsedda trafiksituationer kan uppstå där inte etiskt svåra beslut behöver tas?

Det är ju t.ex inte alltid bara att minimera farten som är den "bästa" lösningen på en situation. Ibland kan det ju t.ex vara en klar fördel att offra bilen för att undvika en allvarligare kollision med ett annat fordon.

Som exempel kan jag ta en situation som jag råkade ut för förra vintern. Jag bromsade extra tidigt inför en T-korsning ut mot en större väg, men missbedömde det extremt hala underlaget. Trots tidig inbromsning så fortsatte bilen med ilsket knattrande ABS ut mot den större vägen. Ser att det kommer en bil i hög fart från vänster som jag kommer få i sidan om jag inte får stopp och tar då beslutet att sätta bilen i diket precis innan korsningen. Som tur var så fick bilen fäste precis innan planen implementerades.

1) Har mkt svårt att se att en autonom bil hade bromsat tidigare (då underlaget och därmed greppet ändrat sig sen accelerationen)

2) Hade en autonom bil "insett" att bara minimera farten genom att bromsa och köra rakt fram hade varit en potentiellt dödlig lösning eller hade den "hittat" utvägen att offra bilen?

3) Om det hade gått en person i vägrenen (på väg till busshållplatsen en bit bort) som hindrat lösningen med dikeskörning så hade lösningen för minimal personskada antagligen varit att köra på personen i vägrenen (eftersom farten då skulle varit tämligen låg)

Vilken lösning hade en autonom bil taget?
Jag skulle gissa på "bromsa till lägsta möjliga fart men fortsätt rakt fram" --> mkt kraftig sidokollision

Är det OK att en autonom bil bara tar "den enkla utvägen" när en krissituation uppstår (med risk för icke optimalt utfall) eller kommer det ställas krav på avancerad utfallsanalys?

Bästa i detta läge hade naturligtvis varit att den autonoma bilen hade haft känsla för hur halt det var, anpassat hastigheten efter förutsättningarna, beräknat när den behöver bromsa och därmed bromsat i tid.

[e5m1r]

Jag håller med artikelförfattaren helt. Det är typiska kliniska scenarior som juridikprofessor hittar på men som inte existerar i verkligheten

Så autonoma bilar medför per automatik att inga oförutsedda trafiksituationer kan uppstå där inte etiskt svåra beslut behöver tas?

Det är ju t.ex inte alltid bara att minimera farten som är den "bästa" lösningen på en situation. Ibland kan det ju t.ex vara en klar fördel att offra bilen för att undvika en allvarligare kollision med ett annat fordon.

Som exempel kan jag ta en situation som jag råkade ut för förra vintern. Jag bromsade extra tidigt inför en T-korsning ut mot en större väg, men missbedömde det extremt hala underlaget. Trots tidig inbromsning så fortsatte bilen med ilsket knattrande ABS ut mot den större vägen. Ser att det kommer en bil i hög fart från vänster som jag kommer få i sidan om jag inte får stopp och tar då beslutet att sätta bilen i diket precis innan korsningen. Som tur var så fick bilen fäste precis innan planen implementerades.

1) Har mkt svårt att se att en autonom bil hade bromsat tidigare (då underlaget och därmed greppet ändrat sig sen accelerationen)

2) Hade en autonom bil "insett" att bara minimera farten genom att bromsa och köra rakt fram hade varit en potentiellt dödlig lösning eller hade den "hittat" utvägen att offra bilen?

3) Om det hade gått en person i vägrenen (på väg till busshållplatsen en bit bort) som hindrat lösningen med dikeskörning så hade lösningen för minimal personskada antagligen varit att köra på personen i vägrenen (eftersom farten då skulle varit tämligen låg)

Vilken lösning hade en autonom bil taget?
Jag skulle gissa på "bromsa till lägsta möjliga fart men fortsätt rakt fram" --> mkt kraftig sidokollision

Är det OK att en autonom bil bara tar "den enkla utvägen" när en krissituation uppstår (med risk för icke optimalt utfall) eller kommer det ställas krav på avancerad utfallsanalys?

Givetvis hade din bil kommunicerat ut till andra bilen som kom från vänster i fall du inte stannar innan korsningen så gör den andra bilen det

[Oddball]

Jag håller med artikelförfattaren helt. Det är typiska kliniska scenarior som juridikprofessor hittar på men som inte existerar i verkligheten

Så autonoma bilar medför per automatik att inga oförutsedda trafiksituationer kan uppstå där inte etiskt svåra beslut behöver tas?

Det är ju t.ex inte alltid bara att minimera farten som är den "bästa" lösningen på en situation. Ibland kan det ju t.ex vara en klar fördel att offra bilen för att undvika en allvarligare kollision med ett annat fordon.

Som exempel kan jag ta en situation som jag råkade ut för förra vintern. Jag bromsade extra tidigt inför en T-korsning ut mot en större väg, men missbedömde det extremt hala underlaget. Trots tidig inbromsning så fortsatte bilen med ilsket knattrande ABS ut mot den större vägen. Ser att det kommer en bil i hög fart från vänster som jag kommer få i sidan om jag inte får stopp och tar då beslutet att sätta bilen i diket precis innan korsningen. Som tur var så fick bilen fäste precis innan planen implementerades.

1) Har mkt svårt att se att en autonom bil hade bromsat tidigare (då underlaget och därmed greppet ändrat sig sen accelerationen)

2) Hade en autonom bil "insett" att bara minimera farten genom att bromsa och köra rakt fram hade varit en potentiellt dödlig lösning eller hade den "hittat" utvägen att offra bilen?

3) Om det hade gått en person i vägrenen (på väg till busshållplatsen en bit bort) som hindrat lösningen med dikeskörning så hade lösningen för minimal personskada antagligen varit att köra på personen i vägrenen (eftersom farten då skulle varit tämligen låg)

Vilken lösning hade en autonom bil taget?
Jag skulle gissa på "bromsa till lägsta möjliga fart men fortsätt rakt fram" --> mkt kraftig sidokollision

Är det OK att en autonom bil bara tar "den enkla utvägen" när en krissituation uppstår (med risk för icke optimalt utfall) eller kommer det ställas krav på avancerad utfallsanalys?

Bästa i detta läge hade naturligtvis varit att den autonoma bilen hade haft känsla för hur halt det var, anpassat hastigheten, beräknat när den behöver bromsa och därmed bromsat i tid.

Ja det vore bra ifall bilen själv kunnat upptäcka den annalkande halkan, men observera att det inte var extremt halt i det område på vägsträckan där accelerationen gjordes, därav detekterades inte halkan i det läget.
För att upptäcka den extrema halkan så skulle bilen ha behövt göra provbromsningar (eller finns det annan typ av halkdetektering för en bil som bara ligger o cruisar?)

[Oddball]

Givetvis hade din bil kommunicerat ut till andra bilen som kom från vänster i fall du inte stannar innan korsningen så gör den andra bilen det

Ja, det hade ju varit snyggt ifall alla autonoma bilar kommunicerade via ett standardiserat protokoll och automatiskt saktar ner om nån annan bil i närområdet skickar ut ett "distress call"

[Herr X]

Jag tycker att tjatet om etiken i implementeringen av autonom drift är ganska fånig; bilarna kommer följa trafikreglerna och prioritera att skydda sina passagerare om någon annan gör fel.

Det största problemet för AI:n blir inledningsvis, när autonoma bilar ska samsas med bilar styrda av människor. Folk kommer inte sluta att göra fel, och autonoma bilar kommer exempelvis utsättas för lastbilar som kommer flygande mot dem i hög fart från motgående körfält där föraren somnat vid ratten. I ett sådant fall kommer bilens passagerare säkert dö om den följer trafikreglerna och låter den sovande lastbilsföraren köra rakt in i den autonoma bilen, och AI:n behöver bryta mot trafikreglerna för att öka chanserna att rädda sin passagerare.

AI:n kommer blixtsnabbt räkna ut vilket beteende som ger störst procentuell chans att rädda den egna passageraren och agera på detta, oavsett vilka risker man utsätter andra för.
Låt säga att lastbilen kommer flygande rakt mot den autonoma bilen i 90km/h - då har den autonoma bilen någon sekund på sig att köra åt sidan. Råkar det då stå en flock människor just där bilen behöver köra för att rädda sin passagerare (i sig ett ganska hypotetiskt scenario eftersom folk sällan vistas alldeles intill vägbanan där bilar kör i dessa hastigheterna) så kommer den autonoma bilen fortfarande försöka rädda sin passagerare. Utfallet vid en eventuell kollision med personerna vid sidan av vägen kan inte på förhand predikeras av bilens AI; individerna kanske sett vad som är på gång och hoppar undan när den autonoma bilen kör mot dem.

[Torkel]

Jag tycker att tjatet om etiken i implementeringen av autonom drift är ganska fånig; bilarna kommer följa trafikreglerna och prioritera att skydda sina passagerare om någon annan gör fel.

Det största problemet för AI:n blir inledningsvis, när autonoma bilar ska samsas med bilar styrda av människor. Folk kommer inte sluta att göra fel, och autonoma bilar kommer exempelvis utsättas för lastbilar som kommer flygande mot dem i hög fart från motgående körfält där föraren somnat vid ratten. I ett sådant fall kommer bilens passagerare säkert dö om den följer trafikreglerna och låter den sovande lastbilsföraren köra rakt in i den autonoma bilen, och AI:n behöver bryta mot trafikreglerna för att öka chanserna att rädda sin passagerare.

AI:n kommer blixtsnabbt räkna ut vilket beteende som ger störst procentuell chans att rädda den egna passageraren och agera på detta, oavsett vilka risker man utsätter andra för.
Låt säga att lastbilen kommer flygande rakt mot den autonoma bilen i 90km/h - då har den autonoma bilen någon sekund på sig att köra åt sidan. Råkar det då stå en flock människor just där bilen behöver köra för att rädda sin passagerare (i sig ett ganska hypotetiskt scenario eftersom folk sällan vistas alldeles intill vägbanan där bilar kör i dessa hastigheterna) så kommer den autonoma bilen fortfarande försöka rädda sin passagerare. Utfallet vid en eventuell kollision med personerna vid sidan av vägen kan inte på förhand predikeras av bilens AI; individerna kanske sett vad som är på gång och hoppar undan när den autonoma bilen kör mot dem.

Herr X's scenario liknar dessutom hur en människa hade agerat. Skydda sig själv och sina nära först. Andra kommer i bästa fall på andra plats i prioriteringen, om man ens hinner ta ett medvetet beslut med konsekvensanalys.

Att designa ett autonomt körsystem är också långt mycket enklare än att designa en AI som ska ha kännedom om hur samhället värderar olika personer, etiska regler, juridisk tillämpning vid trafikolyckor, medicinsk kunskap m.m.

I oddballs fall hade en autonom bil sannolikt kolliderat i korsningen. Det kanske kan få lov att räknas till de få fall där en mänsklig förare hade presterat bättre.

[mati]

Första och största problemet med fullt autonoma bilar är knappast frågeställningen vem som får köras ihjäl i en nödsituation. Jag har kört bil i över 25 år och aldrig hamnat i en sådan situation. Tack och lov. Därmed vill jag inte säga att det inte kan hända men det är ändå ganska osannolikt. Däremot så ställs jag dagligen inför en massa utmaningar i trafiken där jag måste fatta rätt beslut så att det inte uppstår en potentiellt farlig situation. Det är det som först och främst måste lösas, att alltså autonoma bilar flyter med i trafiken, som i dagsläget domineras av mänskliga förare som beter sig oförutsägbart och oftast rentav idiotiskt.
Den dagen man har klarat av att lösa detta problem kan man börja göra en priolosta i vilken turordning vi ska döda folk.

[AGCF]

Jag håller med artikelförfattaren helt. Det är typiska kliniska scenarior som juridikprofessor hittar på men som inte existerar i verkligheten

Så autonoma bilar medför per automatik att inga oförutsedda trafiksituationer kan uppstå där inte etiskt svåra beslut behöver tas?

Det är ju t.ex inte alltid bara att minimera farten som är den "bästa" lösningen på en situation. Ibland kan det ju t.ex vara en klar fördel att offra bilen för att undvika en allvarligare kollision med ett annat fordon.

Som exempel kan jag ta en situation som jag råkade ut för förra vintern. Jag bromsade extra tidigt inför en T-korsning ut mot en större väg, men missbedömde det extremt hala underlaget. Trots tidig inbromsning så fortsatte bilen med ilsket knattrande ABS ut mot den större vägen. Ser att det kommer en bil i hög fart från vänster som jag kommer få i sidan om jag inte får stopp och tar då beslutet att sätta bilen i diket precis innan korsningen. Som tur var så fick bilen fäste precis innan planen implementerades.

1) Har mkt svårt att se att en autonom bil hade bromsat tidigare (då underlaget och därmed greppet ändrat sig sen accelerationen)

2) Hade en autonom bil "insett" att bara minimera farten genom att bromsa och köra rakt fram hade varit en potentiellt dödlig lösning eller hade den "hittat" utvägen att offra bilen?

3) Om det hade gått en person i vägrenen (på väg till busshållplatsen en bit bort) som hindrat lösningen med dikeskörning så hade lösningen för minimal personskada antagligen varit att köra på personen i vägrenen (eftersom farten då skulle varit tämligen låg)

Vilken lösning hade en autonom bil taget?
Jag skulle gissa på "bromsa till lägsta möjliga fart men fortsätt rakt fram" --> mkt kraftig sidokollision

Är det OK att en autonom bil bara tar "den enkla utvägen" när en krissituation uppstår (med risk för icke optimalt utfall) eller kommer det ställas krav på avancerad utfallsanalys?

Det du var med om var ju inget dilemma eftersom om du gasade så räddades alla, men om du bromsat så hade alla skadats.

Här är typiska etiska dilemman som man måste programmera bilen för enligt vissa:
http://moralmachine.mit.edu/
Alla verkar innefatta att man kör i stadstrafik vid ett övergångställe i så hög fart att alla passagerare dör om man kör in i en betongsugga. Det är scenarier som detta som är de enda jag har sett och som jag syftade på när jag menade att man inte skall programmera för dessa. Då tar man på något sätt på sig ansvaret för de som dör.

Dessutom är det inga problem att hitta på nya fullständigt omöjliga scenarios hela tiden. Det finns en oändlig uppsjö av scenarios. Den som lägger tid på att programmera in utväga för dessa kommer att få den absolut sämsta bilen eftersom det finns så otroligt många scenarios som vart och ett är så försvinnande liten risk att den inträffar. Alla programmerare i världen kommer inte att kunna programmera den koden.

[JFAH]

Första och största problemet med fullt autonoma bilar är knappast frågeställningen vem som får köras ihjäl i en nödsituation. Jag har kört bil i över 25 år och aldrig hamnat i en sådan situation. Tack och lov. Därmed vill jag inte säga att det inte kan hända men det är ändå ganska osannolikt. Däremot så ställs jag dagligen inför en massa utmaningar i trafiken där jag måste fatta rätt beslut så att det inte uppstår en potentiellt farlig situation. Det är det som först och främst måste lösas, att alltså autonoma bilar flyter med i trafiken, som i dagsläget domineras av mänskliga förare som beter sig oförutsägbart och oftast rentav idiotiskt.
Den dagen man har klarat av att lösa detta problem kan man börja göra en priolista i vilken turordning vi ska döda folk.

Att du som individ inte råkar ut för den typen av olyckstillfällen är en sak. Men vi pratar om en stor flotta av bilar. Även mycket osannolika fall kommer, rent statistiskt, att hända för någon bil i flottan över tid. Pudelns kärna här är att vi hamnar i en sits där vi på förhand kan se de här problemen och _kan_ ta höjd för dem. Detta är en väldigt stor skillnad ur juridisk synvinkel. Dessutom har bilen i sig själv nu fått betydligt bättre möjligheter att ta egna beslut. För eller senare kommer någon av bilarna över tid hamna i den sitsen att den kommer välja mellan olika alternativ för att minimera, men inte helt utesluta, förlusten av människo liv. Jag vill vara nogrann med att påpeka att totalkalkylen trots allt sannolikt kommer vara positiv (i.e. färre döda i trafiken), men helt kommer vi inte att få bort det.

[AGCF]

https://www.theguardian.com/technology/ ... l-dilemmas

“The main thing to keep in mind is that we have yet to encounter one of these problems,” he said. “In all of our journeys, we have never been in a situation where you have to pick between the baby stroller or the grandmother. Even if we did see a scenario like that, usually that would mean you made a mistake a couple of seconds earlier. And so as a moral software engineer coming into work in the office, if I want to save lives, my goal is to prevent us from getting in that situation, because that implies that we screwed up.