Se l’autista non serve
Guida autonoma tra responsabilità ed innovazione
Tempe, Arizona. Il 19 marzo 2018 una Volvo XC90 a guida autonoma di proprietà di Uber, investe e uccide un pedone, Elaine Herzberg. In seguito all’accaduto la società americana decide di interrompere i test sulle vetture a guida autonoma. Da una prima ricostruzione dei fatti la colpa dell’incidente sembrerebbe ricadere proprio su Elaine, che avrebbe attraversato improvvisamente in un punto della strada non consentito. Un importante dettaglio da non trascurare è il fatto che ci fosse una persona a bordo del veicolo, almeno in teoria, pronta ad intervenire
in caso d’emergenza. La polizia ha poi pubblicato i video registrati da due telecamere a bordo della vettura: una telecamera rivolta verso la strada e l’altra verso il conducente. Da questi filmati si evince che l’incidente fosse difficile da evitare: la strada era poco illuminata e il passaggio della donna del tutto imprevedibile.
Allo stesso tempo il pilota “di garanzia”, ripreso nel filmato, sembrerebbe
non essere troppo attento a ciò
che sta succedendo.
Ma un’auto “intelligente”, seppur in condizioni critiche, non dovrebbe avere tutti gli strumenti per evitare
un incidente? L’incidente di Tempe ha attirato molta attenzione sull’argomento, sollevando una viva discussione sulle numerose tematiche che riguardano
lo sviluppo tecnologico della guida autonoma, in atto in questi anni.
Persona o numero?
La prima questione che abbiamo voluto affrontare è, a nostro avviso, anche quella più importante, cioè il fatto che una persona abbia perso la vita. Disturba in qualche modo pensare che non sia altro che un numero
in più, qualcosa da aggiungere alle statistiche relative alla riuscita dei test su auto a guida autonoma. L’unico modo per non fermarsi a giudicare questo evento come un “sacrificio per il progresso” è quello di guardarlo fino in fondo, senza bisogno di moralismi o accuse ideologiche, ma facendosi interrogare da ciò che è successo.
Se da un lato risulta inverosimile pensare di abbandonare la strada della ricerca e delle sperimentazioni già da tempo avviate, dall’altro risulterebbe interessante tornare a domandarsi se non si stia correndo troppo, cioè se non si stia sopravvalutando il livello di automazione a cui si è arrivati.
Partendo da questa considerazione
si potrebbero quindi indagare i miglioramenti necessari per evitare questo tipo di incidenti, ricreare su strade non aperte al traffico situazioni analoghe
a quelle rischiose e da lì ripartire. Lo scopo finale della progettazione dei sistemi a guida autonoma non è quello di annullare la probabilità degli incidenti mortali, obiettivo che dal punto di vista ingegneristico sappiamo non essere possibile, ma è quello di aumentare sempre di più il margine di sicurezza
dei veicoli su strada. Facendo sì che la modalità autonoma diventi realmente un’alternativa valida alla guida umana,
si punta a diminuire drasticamente
le vittime di incidenti stradali, coerentemente con quanto perseguito dalla Comunità Europea, che già per il 2020 si ripromette di dimezzare il numero di morti su strada rispetto ai dati del 2010.
Responsabilità
Sapendo quindi che gli incidenti, seppur molto ridotti, continueranno ad esistere, ci siamo chiesti a chi ne verrà attribuita la responsabilità. Attualmente infatti essa ricade sugli utenti della strada, che siano autisti, pedoni, ciclisti o altro. Con la guida autonoma la responsabilità non può essere così diretta, infatti è verosimile pensare che l’autovettura sarà il frutto dell’unione di componenti provenienti da diverse aziende e sarà quindi più difficile risalire alla responsabilità principale di un malfunzionamento.
Programmazione etica
Attualmente come si comporta il conducente umano in casi di emergenza? Ha il tempo di pensare quale sia la scelta eticamente migliore, o reagisce d’istinto? La macchina autonoma utilizzerà un criterio che sarà comunque imposto da un programmatore a monte, ma come si comporterà in quelle situazioni in cui, per circostanze esterne, fosse inevitabile un incidente mortale? Per esempio: nel caso in cui un bambino attraversi la strada all’improvviso e l’unico modo per evitarlo implichi provocare la morte del conducente, quale scelta dovrebbe essere compiuta? La risposta a questo problema è tutt’altro che banale, come ha dimostrato l’MIT, realizzando una sorta di “quiz etico” con 13 domande su altrettante situazioni critiche, alle quali ci si trova spesso in grande difficoltà a rispondere. Affrontando questo tipo di questioni, e successivamente scrivendo questo articolo, ci siamo trovati in difficoltà nel dare dei giudizi oggettivi e unanimi. Abbiamo voluto perciò proporvi alcune delle numerose domande che ci sono sorte, proprio come questioni con le quali ognuno possa confrontarsi.
Vi invitiamo quindi a rispondere in prima persona e, se volete, ad inviarci
le vostre risposte o domande.