Dilemmaet med at undervise i etik til selvkørende biler | doug newcomb

Det tog ikke lang tid at køre i Googles selvkørende bil i sidste uge for at indse, at teknologien ikke kun er klar til vejen, men i nogle tilfælde træffer bedre beslutninger end menneskelige chauffører - som f.eks. Bremser og giver efter for cyklister.

Men for at gøre mere end bare krybe langs byens gader, bliver autonom teknologi nødt til at træffe den slags kritiske beslutninger, som er af anden art for erfarne menneskelige chauffører. Og det kan være nødvendigt at forhandle etiske dilemmaer så meget som vanskelige køresituationer.

Som et eksempel tilføjer selvkørselsteknologi en ny vending til det århundrede gamle filosofiske dilemma kendt som "vognproblemet." I dette scenarie skal en person beslutte, om han skal trække i en håndtag i et Y-kryds og køre over en person, der er bundet til sporet for at redde fem personer, der er bundet til det tilstødende spor.

For selvkørende biler er dette blevet omarbejdet som "tunnelproblemet." Forestil dig, at et autonomt køretøj kører på en bjergvej med en enkelt bane og er ved at gå ind i en tunnel, når et barn utilsigtet krydser ind på sin sti lige inden for indgangen, så bilen skal tage en beslutning om et sekund. Fortsætter det lige og rammer barnet? Eller svinger den og rammer tunnelen, skader eller dræber bilens beboere?

Dagen efter at have kørt rundt i Googles selvkørende bil i Mountain View, Californien, deltog jeg på en begivenhed på Mercedes-Benz's nordamerikanske FoU-anlæg i det nærliggende Sunnyvale. Blandt flere emner, der blev dækket i løbet af dagen, holdt Stanford-professor og leder af universitetets Revs-program Chris Gerdes en præsentation, der dækkede emnet etik og autonome biler.

Gerdes afslørede, at Revs har samarbejdet med Stanfords filosofiafdeling om etiske spørgsmål, der involverer autonome køretøjer, mens universitetet også er begyndt at køre en række tests for at afgøre, hvilken type beslutninger en robotbil kan tage i kritiske situationer.

Når filosofi tager rattet

Som en del af sin præsentation lavede Gerdes en sag til, hvorfor vi har brug for filosofer til at hjælpe med at studere disse spørgsmål. Han påpegede, at etiske problemer med selvkørende biler er et bevægende mål og "har ingen grænser", selvom det er op til ingeniører at "bunde problemet."

For at gøre dette og bevæge etik for selvkørselsteknologi ud over blot en akademisk diskussion, kører Revs eksperimenter med Stanfords x1 testkøretøj ved at placere forhindringer i vejen. Han bemærkede, at placering af forskellige prioriteter i køretøjets softwareprogram har ført til "meget forskellig adfærd."

Gerdes hævdede, at denne nye etiske-baserede programmering af selvdrivende software kunne blive et "kernekrav" til teknologien - og ikke noget, der kun diskuteres i elfenbenstårne. Og han tilføjede, at etik ikke er noget, som bilproducenter kan købe fra en "Tier 1" -leverandør, som f.eks. En brændstofpumpe eller in-dash-skærm. Den nylige VW Dieselgate-skandale har bestemt vist det.

Erfarne menneskelige chauffører er i mange år blevet programmeret til at håndtere beslutninger på delt sekund - og de træffer stadig ikke altid de rigtige. Men efter at have set, hvordan Googles selvkørende køretøjer reagerer på daglige beslutninger og hørt om det arbejde, som Stanford Revs og skolens filosofiafdeling udfører, satser jeg på, at bilerne i sidste ende vil træffe smartere beslutninger.