Le auto autonome di Stanford si preparano agli imprevisti con l'Intelligenza Artificiale
I ricercatori della Stanford University lavorano con l'Intelligenza Artificiale per "addestrare" le auto ad affrontare gli imprevisti
I ricercatori della Stanford University lavorano con l'Intelligenza Artificiale per "insegnare" alle auto a guida autonoma ad affrontare gli imprevisti: un elemento in più per garantire la sicurezza dei veicoli senza conducente nella vita reale, in situazioni problematiche come per esempio la guida su strade ghiacciate (su cui stanno lavorando diverse aziende come MUJI con il suo shuttle).
DUE MODI DI INTENDERE LA GUIDA AUTONOMA
Di norma, le auto a guida autonoma vengono sviluppate con una sensoristica così potente e avanzata da essere in grado di valutare le azioni da intraprendere sul momento in base alle informazioni ricevute istantaneamente da radar, LiDAR e mappe in alta risoluzione. Le auto sviluppate dai ricecatori di Stanford, tuttavia, integrano a questi dati anche le esperienze pregresse, grazie ad sistema che si serve dell'Intelligenza Artificiale per "addestrare" i veicoli senza conducente per agire in condizioni sconosciute e impreviste basandosi su manovre recenti e situazioni affrontate in passato.
Due i modelli a guida autonoma messi alla prova su un circuito per 10 giri consecutivi: Niki, una Volkswagen Golf GTI, e Shelley, un'Audi TTS, hanno percorso l'intero tracciato eguagliando il comportamento di un pilota esperto (e conoscitore del percorso) alla guida degli stessi veicoli e nelle stesse condizioni Del resto, l'obiettivo dei ricercatori era proprio questo:
Vogliamo che i nostri algoritmi siano validi come i migliori piloti, si spera anche migliori – spiega Nathan Spielberg – Il nostro lavoro è motivato dalla sicurezza, vogliamo che i veicoli autonomi funzionino in molti scenari, dalla guida normale su asfalto asciutto alla guida sportiva su fondi a bassa aderenza, come neve e ghiaccio.
PAROLA D’ORDINE: RIDONDANZA
Niki, per esempio, prima di affrontare il tracciato di prova è stata portata in un test-track ghiacciato nel Circolo Polare Artico, e questo le ha permesso di affontare senza esitazioni una situazione di fondo viscido. Attraverso la costruzione di una rete neurale è stato possibile integrare da una parte le passate esperienze di guida nel circuito Thunderhill Raceway di Willows, in California, dall'altra un centro di collaudo ghiacciato. In entrambi i casi, "l'esperienza" si traduce in 200.000 traiettorie "fisiche", sintesi dei dati raccolti dai sensori e delle previsioni effettuate dal "cervellone".
Interessante il fatto che, nei test, il sistema neurale si sia comportato meglio rispetto al sistema basato sulle traiettorie fisiche, nonostante la mancanza di informazioni istantanee sulle condizioni di grip dell'asfalto. Il merito è dell'esperienza pregressa, che ha "allenato" la rete neurale. In assenza di tale esperienza, i dati fisici provenienti dei sensori sono invece più affidabili.
Il fine ultimo dei ricercatori è proprio dimostrare che la via più sicura sia l'integrazione tra i dati fisici, raccolti dai sensori, e quelli elaborati dall'Intelligenza Artificiale. Solo con una ridondanza di informazioni e di esperienze pregresse l'auto autonoma sarà davvero in grado di prendere decisioni consapevoli. Un po' come un pilota esperto. E forse anche meglio.
sempre la seconda non vivrei sapendo di avere ucciso un bambino ed in più non puoi essere certo di morire (lo so mi ripeto) perchè nessun software può averne la certezza ma stima solo delle probabilità e se tiro sotto il bambino a una velocità che lui reputa mortale ho sicuramente più possibilità (anche se minime) io buttandomi giù da un punto, io non sono assolutamente a favore della guida completamente autonoma, ma è quello che farei d'istinto, evitare il pedone
"preferisco che la macchina me lo faccia evitare" questo esula dal dilemma etico ed è il normale comportamento che sta già eseguendo.
il dilemma è questo: sto percorrendo ponte senza guard rail e trovo un bambino nel mezzo.
a) lo uccido investendolo
b) mi butto giù dal ponte andando verso morte certa
Non ci sono altre opzioni: la morte di chi sta in strada o la morte di chi sta in auto.
Compreresti il modello di macchina che in quella circostanza ucciderebbe il bambino o il modello che in quella circostanza ucciderebbe te e chiunque ci sia a bordo?
Troppi se...il discorso é diverso, tra chi attraversa la strada e chi é sull'auto solitamente ha la peggio chi attraversa la strada, ha più possibilità di cavarsela il conducente dell'auto nel momento in cui si attivano in automatico i freni e una correzione di rotta automatica valutando ovviamente tutti gli altri ostacoli presenti, il punto é sempre lo stesso se non mi sto accorgendo di stare per investire delle persone preferisco che la macchina me lo faccia evitare
ecco io invece no.
magari a bordo c'è mio figlio, magari il bambino si sarebbe solo rotto una gamba, magari l'auto mi lancia contro il muro che cade sui bambini dell'asilo che si trova dietro.
ne riparleremo quando l'auto saprà riconoscere chi ha di fronte, chi ha dentro e chi c'è dietro il muro ma a quel punto saprà in anticipo se un bambino sta uscendo dal parco perché glie l'avrà detto la moto che precede, l'auto parcheggiata e il lampione smart quindi il problema non si presenterà mai
se deve decidere se uccidere me o dei bambini la risposta è si
non ho parlato di rischio di beccare un muro, riformulo la domanda:
acquisteresti un'auto che potrebbe decidere di ucciderti se valutasse che si tratti del male minore?
preferisco il rischio di beccare un muro che stirare dei bambini, anche se non è colpa mia...
risposta a tono:
dipende quanti bambini ci sono in auto
risposta logica:
fase 1: frenata
fase 2: si valuta la possibilità di evitarli
fase 3: se si può modificare la traiettoria in sicurezza si sterza altrimenti no
risposta - domanda etica:
preferiresti un'auto che stira i bambini o una che ti uccide se un genitore non sa badare al proprio figlio?
A questa domanda ha già risposto Musk. L'auto penserà sempre e solo alla sicurezza degli occupanti
Dal punto di vista giuridico ovviamente non sarebbe responsabile l'entità software ma chi l'ha programmata/addestrata ovvero la software house o chi per lei che ti garantisce il funzionamento negli standard dettati dalla legge/normativa.
Come per i boing 737 max
http://moralmachine.mit.edu
se l'auto è costruita in russia li mangia!
Lo vorrei sapere ex-ante perchè se fossi alla guida di un'auto "tradizionale" sarei io, e solo io, responsabile delle conseguenze: su di me, su chi è in auto con me e su terze persone e cose.
Se è un'altra entità (software) che guida, chi lo sarebbe?
per istinto eviti l'ostacolo
Ma il quesito è proprio "cosa farebbe l'ia", io so già cosa farei...
e' un dilemma etico che -tu- saresti capace di risolvere nel mezzo secondo di tempo di reazione tipico?
perche' dobbiamo pretendere cose per noi impossibili?
Eh sembra il dilemma del film io robot, quando il robot salva lui "perchè aveva più chance" rispetto alla bambina....
Oppure i 3 anziani affiancati con la Panda! O.o
I tempi di analisi non sono sicuramente nulli, per cui il sistema non può essere infallibile. Detto questo, credo proprio che l'algoritmo non stia a "scegliere" quale sia la vittima migliore, credo piuttosto che cercherebbe di schivare la persona, impostando una traiettoria il più sicura possibile. Che questo significhi andare a sbattere contro un muro dipende solo dal "tempo di reazione" e dalle possibili traiettorie che si possono impostare a quella data velocità. Il computer non può sicuramente decidere volontariamente di investire 3 persone, deve schivare con il rischio di sbattere. Sbattendo però può fare varie cose: pretensionare le cinture, regolare il sedile (tecnologie esistenti), frenare, ecc. Tutto questo senza considerare che la guida autonoma sarà una guida tendenzialmente "prudente", non credo proprio che andrà a 90km/h su una stradina di campagna stretta e piena di curve, semplicemente perché deve calcolare di avere una buona probabilità di non incorrere in imprevisti inevitabili, a differenza di un uomo che alle volte "si fa prendere" e non considera bene i rischi.
Riassumendo: tenendo conto dei tempi di calcolo e tutto il resto, l'algoritmo deve evitare di investire qualcuno. Una volta schivata la persona, proprio come in un albero delle possibili scelte, deve valutare tutto ciò che seguirà. Investire subito quelle persone sarebbe un crimine, fare un incidente dopo invece... non sempre. Ovviamente arrivare a quella situazione sarebbe già di per sé un errore del sistema, a meno che quei 3 bambini di cui sopra non si siano proprio lanciati davanti all'auto che procedeva a 130km/h in autostrada, nel qual caso beh, direi che si può fare ben poco!
Se si arriva a questa situazione qualcosa è già andato storto in precedenza: i bambini avrebbero già dovuto essere riconosciuti e l'auto reagito di conseguenza rallentado o preparandosi a una frenta d'emergenza.
E altrimenti in ogni caso sbandando rischi solo di creare ulteriori incidenti collaterali, in situazioni simili c'è poco altro da fare che frenare in linea retta.
dilemma etico: se tre bambini attraversano improvvisamente la strada cosa fa l'auto? sacrifica i pargoli o sacrifica conducente e passeggeri andando a sbattere contro il muro lato strada?
E il comportamento pre-impostato verrà pubblicizzato al momento dell'acquisto / noleggio dell'auto?
l'anziano con la panda o i ciclisti 3 tre di fianco ci sono?
Tranquilli, non ci saranno imprevisiti