Bilen din planlegger å drepe deg!

Bilen din planlegger å drepe deg!

Man drink driving crashing car into lamp post
Licensed from: patrimonio / yayimages.com

Det er helt sant! Bilen din planlegger faktisk å drepe deg, hvis den rette situasjonen oppstår. Riktignok ikke dagens biler (vel, muligens Teslaen din eller andre kvasi selvkjørende biler), men fremtidens biler planlegger å drepe deg! 

Dette gjelder riktignok selvkjørende biler, og ikke de gamle gode analoge bilene. Problemstillinger er at før eller siden vil en selvkjørende bil komme opp i en situasjon der noen må bli drept, eller i det minste kraftig skadet, fordi den kunstige intelligensen (AI) som kontrollerer og styrer den selvkjørende bilen ikke kan se hvordan den kan manøvrere slik at ingen blir skadet. Her er et eksempel: Du kjører i din nye selvkjørende bil på en smal vestlandsvei. På den ene siden av veien har du en bratt fjellvegg, og på den andre siden av veien et 100 meters stup rett i fjorden. Plutselig kommer bilen rundt en sving der det står en person midt i veien. Den kunstige intelligensen kalkulerer at den ikke kan stoppe bilen i tide eller svinge unna, og den har da 2 muligheter:

  1. Den kunstige intelligens kan prøve å stoppe bilen, men kalkulasjonene sier at bilen uansett vil treffe personen med så stor kraft at personen vil dø.
  2. Den kunstige intelligensen kan svinge av veien slik at personen ikke blir truffet, men da vil bilen havne i fjorden, og sjåføren og ev. passasjerer vil dø.

Så hva vil den kunstige intelligensen gjøre? Det er hvordan den kunstige intelligensen har blitt programmert som vil bestemme dette:

  • Hvis den kunstige intelligens har blitt programmert til å alltid beskytte passasjerene i bilen så vil den kjøre på personen som står i veien.
  • Hvis den er programmert til å unngå å skade fotgjengere og andre trafikanter vil den kjøre i fjorden.
  • Hvis den er programmert til å skade færrest mulig personer vil antall passasjerer i bilen bestemme utfallet av situasjonen.
  • Hvis den er programmert til å ta spesielt hensyn til barn vil dette påvirke situasjonen.
  • Hvis den er blitt programmert til å reagere utfra samfunnsøkonomiske hensyn vil den velge den handlingen som er billigst for samfunnet totalt. (Denne kan bli morsom, det er nemlig mye billigere å begrave en død person en å behandle en skadet person på et sykehus….)
  • Hvis den er blitt programmet til å beskytte seg selv vil handlingen reflektere dette.
  • Ellers kan det være kombinasjoner av alle disse mulighetene.

Som vi ser her så er det programvaren til den kunstige intelligensen som avgjør hva som vil skje. Og hvis programmererne som utvikler den kunstige intelligensen ikke har en felles spesifikasjon de jobber utfra, eller hvis de har fått hver sin spesifikasjon fra sine ledere, så vil de forskjellige bilmerkene oppføre seg forskjellig i tilnærmet samme situasjon. Dette kan gi rare situasjoner, der luksusbiler blir programmert til å beskytte passasjerene i bilen, mens andre merker velger andre løsninger. Det kan jo også bli rettsaker at dette, der de etterlatte etter trafikkulykker saksøker leverandøren av den kunstige intelligensen. Hvem vil ha det juridiske ansvaret for oppførselen til en kunstig intelligens? Det vi trolig trenger er en felles konsensus for hvordan en kunstig intelligens skal prioritere i en ulykkessituasjon. Hvis en internasjonal etisk kommisjon kan bli enige om en slik prioritering som kan beskrives i en spesifikasjon til de som programmerer kunstige intelligens, så vil alle bilene fra alle bilforhandlere (forhåpentligvis) oppføre seg likt og mest mulig etisk korrekt i slike situasjoner, og vi vil slippe usikkerheten rundt hva en kunstig intelligens vil gjøre i slike situasjoner, og dermed også unngå en masse problemer i etterkant. Men noe testing må vi trolig ha for å verifisere at dette er på plass og fungerer som forutsatt i alle selvkjørende biler. Noe for NCAP i fremtiden?

#Autonomebiler #Selvkjørendebiler #Drepe #Teknologi #Biler #AI #Kunstigintelligens #Teknologi

Man cries car accident
Licensed from: studiostoks / yayimages.com

One thought on “Bilen din planlegger å drepe deg!

  1. Kanskje bilen også kan være programert til å bremse?
    Jeg regner med at bremsene fungerer litt annerledes på de selvkjørende bilene, eller at det er en slags nødbrems som gjør at bilen stopper automatisk med en gang. 🙂

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert.