Auto senza guidatore? Non funzioneranno mai, ci vuole il "tocco umano"
- di Carlo Bellati
-
- di Carlo Bellati
Cruise, basata a San Francisco, è una startup finanziata in gran parte da General Motors ma che riceve soldi anche da Honda, Microsoft e altre, e sviluppa sistemi di guida autonoma. Dovrebbe avere nei suoi manager i più fermi sostenitori dell'auto "intelligente" senza guidatore, il favoloso Livello 5 che, senza alcuno dietro il volante, è in grado di muoversi in sicurezza sia all'interno della città, sia sulle strade veloci, riducendo sensibilmente gli incidenti causati dall'errore umano.
Il suo amministratore delegato Kyle Vogt, però, ha rilasciato da poco un'intervista alla Reuters che fa perlomeno riflettere: ci si sta rendendo conto che realizzare le auto-robot è un'impresa che sfiora l'impossibile, perché per quanto venga potenziata e affinata l'intelligenza artificiale (AI), questa manca della capacità di predire e gestire le situazioni inaspettate, specialmente in condizioni molto complesse. Per esempio un'improvvisa deviazione della strada, diramazioni con molte corsie che si intersecano, manovre di emergenza "intutive": l'esempio più classico è quello della palla. Se un guidatore ne vede una rimbalzare sulla strada, percepisce immediatamente che potrebbe essere seguita da un bambino. Per la AI la palla è invece del tutto innocua. Ma anche quando la percezione di un potenziale pericolo è corretta, nascono i dubbi.
Questo problema era già stato studiato in passato con il famoso esperimento di Nature sulla "Moral Machine", la terribile scelta fra situazioni dove è computer che deve decidere chi ferire gravemente (o anche morire) tra gli occupanti di un'auto oppure i pedoni.
Anche se l'immagine sembra un quiz della patente, fa molto riflettere. Un'auto a guida autonoma in una situazione simile sceglierà la manovra A, che comporta la morte dei passeggeri o quella B, a danno dei pedoni? E in entrambi i casi, di chi sarà la responsabilità? Il CEO di Cruise dice che un "tocco umano" in queste situazioni è indispensabile. Un tocco umano che, però, potrebbe trovarsi a migliaia di chilometri e intervenire in caso di bisogno. A questo non si potrà mai rinunciare, ha detto Vogt, "e non vedo perché si dovrebbe eliminare l'uomo da questo processo decisionale". Non è dato sapere se un controllore remoto, un po' come accade per il traffico aereo, sia in grado di intervenire per tempo in casi come quello descritto sopra, che in realtà si è verificato realmente in giugno a San Francisco (2 feriti) dove l'auto a guida autonoma "non ha previsto correttamente" la traiettoria di un altro veicolo e ha fatto il botto. Le 80 auto GM di Cruise in corso di sperimentazione sono state immediatamente bloccate e il software aggiornato.
Sono ben note le vicende del Full Self Driving di Tesla, che, al prezzo di 15.000 dollari, si trova ancora in fase Beta pur essendo installato su migliaia di esemplari negli USA (non in Europa). Ed è oramai chiaro a tutti che le previsioni che avevano portato Elon a dire che ci sarebbero stati "milioni di robotaxi" nel 2020 vanno ridimensionate (e lo stesso Musk ha ammesso che "è più difficile di come me l'ero immagino, e di molto). E negli Stati Uniti i finanziamenti alle startup che si occupano di guida autonoma sono crollati del 50% nei primi mesi del 2022.
