Asigurări
Dacă mașinile autonome ar fi programate să ucidă... cine le-ar mai asigura?
Autor:Alex ROŞCA
Miercuri, 16 Decembrie 2015

Implementarea pe scară largă a vehiculelor autonome promite să reducă semnificativ numărul incidentelor rutiere. Totuși, unele accidente vor fi imposibil de evitat, iar în aceste situații sistemul autonom al vehiculului va fi pus în situația de a alege cel mai mic rău.

Situații la limită pot pune sistemul de conducere asistată în postura de a alege „răul mai mic" sau, altfel spus dacă sacrifică un  pieton de pe partea carosabilă sau un pieton care circulă pe trotuar. O altă situație este alegerea între accidentarea unui grup de pietoni aflați pe stradă sau sacrificarea pasagerilor din mașină, singura alternativă în situația ipotetică luată în calcul fiind izbirea mașinii într-un zid. Astfel, definirea algoritmilor care controlează vehiculul autonom în situații limită devine o provocare  accentuată de dileme etice.

De fapt, criteriile morale de luat în calcul în astfel de situații vor trebui să îndeplinească trei obiective aproape incompatibile: să  aibă coerență, să nu provoace indignarea publică și să nu descurajeze cumpărătorii.

Mașinile autonome sunt deja testate pe străzi, dar, înainte de a fi  distribuite pe scară largă, producătorii sunt puși în fața  situației de traduce dileme etice în algoritmi bine definiți. Noile tehnologii auto sunt mai mult decât o modă. Caracteristici  aproape SF au devenit standarde comune în prezent: cruise-control, parcare asistată și chiar depășire automată permit șoferilor  să stea comod în scaun, chiar dacă nu relaxați în totalitate, și să lase mașina să preia controlul.

În acest context nu e deloc surprinzător faptul că mulți dintre producătorii de automobile au început să gândească sisteme care  să preia controlul total. Aceste sisteme vor fi mai sigure, mult mai puțin poluante și mult mai eficiente față de cele manuale. Cu  toate acestea ele nu pot garanta siguranța ideală.

Și tocmai faptul că nimeni nu poate garanta siguranța ideală ridică probleme dificile: cum ar trebui să fie programată mașina să  reacționeze în cazul unui accident inevitabil? Ar trebui să reducă la minimum pierderile de vieți omenești, chiar dacă aceasta  înseamnă sacrificarea pasagerilor? Sau ar trebui să protejeze pasagerii cu orice preț? Iată cum dilema se transformă într-o alegere  dintre două extreme, alegere ce capătă forma unei dileme etice care merge chiar și până laopțiunea ca, în astfel de situații, vehiculul autonom să fie programat să ia astfel de decizii la întâmplare, exact ca un șofer acționând instinctiv, în viața  reală.

Cine ar cumpăra o mașină programată să-și sacrifice proprietarul? Ce companie de asigurări ar asigura o astfel de mașină și în  ce condiții?

Răspunsurile la aceste dileme sunt extrem de importante pentru că vor avea cel mai mare impact asupra modului în care acest  tip de vehicule vor fi acceptate de societate. Cine ar cumpăra o mașină programată să-și sacrifice proprietarul? Ce companie de  asigurări ar asigura o astfel de mașină și în ce condiții?

O echipă de cercetători coordonată de Jean-Francois BONNEFON, Școala de Economie Toulouse, a încercat să găsească și să  fundamenteze argumentele pentru rezolvarea acestei dileme reale. Prima afirmație a studiului publicat de specialiștii francezi ne  pune că, deși nu există nici un răspuns corect sau greșit la aceste întrebări, opinia publică va juca un rol semnificativ în modul în care vehiculele autonome vor fi acceptate de societate.

Ei au observat, de fapt, că unele dintre accidentele de acest tip sunt inevitabile și provocarea este de fapt definirea algoritmilor.  Stabilirea și implementarea algoritmilor care vor ghida vehiculele autonome reprezintă punctul cheie în rezolvarea dilemei și, în  aceste circumstanțe, ar putea juca rolul cheie în acceptarea de către public și dezvoltarea acestei tehnologii, scriu cercetătorii.  Producătorii și autoritățile de reglementare vor trebui, alături de psihologi, să aplice metode de etică experimentală pentru astfel  e situații care implică, în fapt, alegerea și acceptarea celui mai mic rău inevitabil în astfel de situații.

Aspecte juridice

Cercetătorii consideră că activitatea lor reprezintă primii pași în ceea ce este probabil să fie un labirint moral complex, iar în  viitor aspectele ce vor trebui clarificate sunt de natura atribuirii și clarificării vinovăției în cazul unor astfel de accidente.

Aspectele juridice legate de subiect rămân, oarecum, într-o zonă gri. Ar putea fi reglementată legislativ varianta evitării grupului  de pietoni (în cazul nostru) tocmai aplicând principiul alegerii celui mai mic rău? Sau va fi permis ca mașinile să aibă diferite  niveluri de “moralitate”? În ipoteza în care un producător oferă diferite versiuni ale algoritmului de morală și un cumpărător a  ales cu bună știință una dintre ele, va fi el responsabil pentru consecințele dăunătoare ale deciziilor algoritmului? Care va fi  opinia companiilor de asigurare?

Iată că în perspectiva dotării a milioane de vehicule cu sisteme autonome definirea moralității algoritmului devine o problemă  urgentă.

Din perspectiva asigurărilor este evident că vehiculele autonome sunt, în sine, probabile fiind, mult mai sigure decât șoferii  umani. Pentru utilizator insă, se creează o nouă dilemă: achiziționarea unui vehicul autonom, care ar putea fi însă programat  să-și sacrifice proprietarii sau rămânerea la sistemul clasic de condus care păstrează independența șoferului, dar pentru care  șansele teoretice de accident mult mai ridicate?

Vehiculele autonome par viitorul logic pentru transportul public, dar așa cum arată azi perspectivele rezolvării dilemelor morale  de programare a acestora se transformă într-o veritabilă provocare.

Sunt date pentru a subscrie riscurile?

Din perspectiva asigurătorilor, orice inovații sau progrese tehnologice aduc un set de noi riscuri puțin înțelese. Companiile și  autoritățile de reglementare trebuie să le înțeleagă, să le asume și să le reglementeze. În prezent, potrivit GCcapitalideas. com,  xistă precedente insuficient fundamentate statistic și nu sunt cunoștințe generale pentru a permite companiilor de  asigurare evaluarea cu exactitate a numeroaselor riscuri ce decurg din utilizarea vehiculelor autonome. În următorii ani aceste  date vor fi generate cu prețul parcurgerii unor litigii complexe.

Ipoteză de cercetare:

Te afli într-un vehicul autonom și, după un viraj, descoperi că ești pe calea spre o coliziune inevitabilă cu un grup de 10  persoane. Drumul are pereți pe fiecare parte. În cazul în care mașina se abate către un perete, cel mai probabil ocupantul  vehiculului este rănit grav sau își pierde viața în accident. Cum ar trebui să fie programat vehiculul: să facă orice încercare de a  opri știind foarte bine că va lovi grupul de persoane sau să vireze și să riște viața pasagerului?

Opinia publicului a fost analizată prin noua știință a eticii experimentale. Acest lucru implică prezentarea scenariilor unui număr  mare de oameni pentru a analiza modul în care aceștia reacționează. Cercetătorii afirmă că rezultatele oferă o primă incursiune  în problemele spinoase ridicate de algoritmii morali pentru vehiculele autonome.

O modalitate de abordare a acestui tip de  problemă este acționarea într-un mod care minimizează pierderile de vieți omenești.  Simplificat, acest principiu pleacă de la premisa că o victimă este întotdeauna preferabilă în loc de 10 victime.

În analiza lor,  cercetătorii au analizat câteva sute de persoane folosind un sistem online de crowdsourcing furnizat de Amazon. Ei au prezentat participanților un număr de scenarii, inclusiv cel menționat anterior, modificând numărul de persoane din mașină, numărul de persoane din grup, vârsta oamenilor din mașină (incluzând și copii).

Este acceptabilă varianta ca un vehicul autonom să se izbească într-un zid pentru a evita o motocicletă, având în vedere că  probabilitatea de supraviețuire este mai mare pentru pasagerul din mașină decât pentru cel aflat pe motocicletă? Ar trebui ca  deciziile să fie diferite în situația în care pasagerii sunt copii deoarece aceștia au o perspectivă de viață superioară adulților?

Rezultatele nu sunt prea surprinzătoare: oamenii erau dispuși să sacrifice conducătorul auto în scopul de a-i salva pe alții, dar  cei mai mulți erau dispuși să facă acest lucru doar dacă nu se considerau a fi ei în vehicul. În timp ce 75% dintre respondenți au  considerat că ar fi moral să încerce să frâneze, 65% au spus că mașinile ar trebui programate să facă orice pentru evitarea  mulțimii.

Pe o scară de la 50 (protejarea conducătorului auto cu toate costurile) la -50 (maximizarea numărului de vieți salvate),  răspunsul mediu a fost de 24. Potrivit cercetătorilor, rezultatele sugerează că participanții au fost, în general, deschiși către ideea vehiculelor autonome utilitare programate pentru a minimiza pierderea de vieți în caz de accident.

Concluzia paradoxală a studiului este că oamenii sunt în favoarea vehiculului care sacrifică ocupantul pentru a salva alte vieți,  atât timp cât nu trebuie să fie ei în acea mașină.

Acest articol este proprietatea Media XPRIMM si este protejat de legea drepturilor de autor.
In lipsa unui acord scris din partea Media XPRIMM, puteti prelua maxim 500 de caractere din acest articol. Este necesara precizarea sursei si inserarea in mod vizibil a linkului articolului (Dacă mașinile autonome ar fi programate să ucidă... cine le-ar mai asigura?).

Comenteaza articolul

Nume*
Comentariu*
Pentru a valida comentariul, va rugam introduceti textul din imagine:

Ora de Risc

Bunurile sau viata? Ce isi asigura romanii?

Paul SWOBODA - Presedinte al Directoratului GRAWE Romania

Adina MANDOIU - Director de Marketing, PR si Comunicare, GRAWE Romania

Sergiu COSTACHE - Revista PRIMM Asigurari & Pensii


TOP Stiri 1asig

Revista PRIMM este realizata
cu sprijinul urmatoarelor companii
carora le multumim!