Ottobre, 2023

ALLERTA SPOILER: Questo è il testo di accompagnamento al podcast
Il Disinformatico della Radiotelevisione Svizzera che uscirà questo
venerdì presso
www.rsi.ch/ildisinformatico/.

—

[CLIP: Audio di Johnny Cab da Atto di Forza (1990)]

Il governo svizzero si affianca a quello tedesco, quello britannico e quello
francese gettando le basi giuridiche per consentire la guida autonoma, o
almeno fortemente assistita, anche in Europa. Ma nel frattempo negli Stati
Uniti è stata revocata la licenza di circolare alle auto autonome di Cruise,
un’azienda che gestisce una flotta di robotaxi: automobili senza
conducente, nelle quali i passeggeri paganti vengono trasportati in giro per
le città. C’è un problema con l’intelligenza artificiale che sta alla base di
queste auto che viaggiano da sole? Stiamo per caso adottando leggi troppo
permissive?

Sono Paolo Attivissimo, e vi do il benvenuto alla puntata del 27 ottobre 2023
del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato
alle notizie e alle storie strane dell’informatica e incentrato questa
settimana sullo stato dell’arte nella guida autonoma e assistita. Allacciate
le cinture!

[CLIP: Audio di Johnny Cab da Atto di Forza (1990)]

[SIGLA di apertura]

Auto autonome: nuove leggi le introducono in Svizzera…

Dal mondo iper-informatizzato della guida autonoma arrivano due notizie
apparentemente contraddittorie. Il 18 ottobre scorso il governo svizzero ha
pubblicato un’ordinanza che prepara il terreno, dal punto di vista giuridico,
per l’introduzione delle automobili a guida assistita o autonoma sulle strade
nazionali. Ma intanto negli Stati Uniti, che hanno già introdotto automobili
completamente autonome in alcune regioni, la licenza di operare di una delle
aziende del settore, Cruise, è stata revocata dalle autorità californiane
parlando di “rischio irragionevole per la sicurezza pubblica”.

A prima vista sembra che la Svizzera stia aprendo pericolosamente le strade a
una tecnologia che altri paesi hanno già provato e bocciato, ma non è così.

Per chiarire come stanno realmente le cose può essere utile prima di tutto un
rapido ripasso della terminologia e della situazione legale di questi veicoli.
Si parla di guida autonoma quando il veicolo viaggia senza avere a
bordo un conducente e sono i computer di bordo a prendere tutte le decisioni
di guida; quando invece il conducente c’è e resta responsabile della condotta
del veicolo, si parla di guida assistita.

Molte automobili oggi disponibili sul mercato sono dotate di sistemi di guida
assistita, come per esempio la frenata d’emergenza automatica, il
mantenimento di distanza dal veicolo che precede o il mantenimento di corsia;
esistono anche alcune auto equipaggiate con sistemi di guida autonoma,
ma finora hanno circolato in Svizzera
“solo con autorizzazioni eccezionali nel quadro di esperimenti”, come
nota il recentissimo
Rapporto esplicativo
sull’ordinanza nazionale sulla guida automatizzata. Lo stesso rapporto
sottolinea un altro concetto spesso frainteso:
“l’attuale situazione giuridica esclude la possibilità di utilizzare su
strada i sistemi di automazione conformemente alla loro destinazione
d’uso”, dice, perché
“[L]a legge sulla circolazione stradale […] prescrive che il conducente
debba costantemente padroneggiare il veicolo […], il che implica nello
specifico il divieto di lasciare il volante”. In altre parole, quei sistemi di guida assistita che
tecnicamente consentirebbero di togliere le mani dal volante per
qualche decina di secondi non sono legalmente
utilizzabili in questo modo, come invece molti automobilisti credono di poter
fare.

Anche quando il mantenimento di corsia è attivato e l’auto sterza da sola,
insomma, allo stato attuale chi guida deve tenere le mani sul volante, deve
essere costantemente pronto a intervenire, e la responsabilità della condotta
del veicolo è sempre sua. La revisione della legge federale sulla circolazione
stradale e questa ordinanza servono a consentire in futuro l’uso legale di
assistenti di guida sempre più sofisticati, come sta già avvenendo per esempio
nel Regno Unito e in Germania, dove in alcuni casi è possibile togliere le
mani dal volante, tenendo però gli occhi sulla strada, ma solo su alcuni
tratti autostradali e se si ha un’automobile dotata di assistenza di guida
evoluta.

In ogni caso, le prodezze irresponsabili di chi pensa di poter schiacciare un
pisolino o leggere il giornale mentre si fa portare dall’auto restano vietate.
Anche perché questi sistemi di guida assistita o autonoma di fatto non sono
ancora abbastanza maturi, capaci e affidabili tecnicamente da
consentire queste prestazioni, a prescindere dal quadro legale.

L’approccio svizzero e in generale europeo, insomma, è molto prudente. Negli
Stati Uniti, in Cina e in altri paesi extraeuropei, invece, circolano già
sulle strade di alcune città molte auto a guida altamente assistita e anche
flotte di automobili completamente autonome, usate come taxi senza
conducente ed equipaggiate con una selva di sensori e computer. Le cose, però,
non stanno andando molto bene.

…intanto che vengono bandite in USA? Non proprio

A San Francisco, per esempio, è già possibile da qualche mese chiamare taxi
autonomi, privi di conducente e appartenenti ad aziende come
Cruise e Waymo, che dopo un periodo di sperimentazione offrono ora corse a
pagamento al pubblico.

Ma il 24 ottobre scorso è arrivata la notizia che il
Dipartimento dei Trasporti della California [California Department of Motor Vehicles] ha sospeso la
licenza di uno di questi gestori, Cruise, che usa le automobili autonome
fabbricate dalla General Motors.

Nei mesi scorsi si sono verificati alcuni incidenti e disagi legati alla
circolazione di questi veicoli, che si sono fermati in mezzo alla strada, sono
finiti nel cemento fresco di un cantiere stradale, hanno
causato ingorghi radunandosi in massa
e non hanno dato la precedenza ai mezzi di soccorso, con i quali si sono anche
scontrati.

Tutte cose, va detto, che fanno ogni giorno anche moltissimi conducenti
umani, senza che nessuno per questo chieda di revocare a tutti gli
automobilisti le loro licenze. Gli errori umani sono tollerati; quelli dei
computer su ruote no.

La licenza di Cruise è stata revocata in seguito a un incidente grave avvenuto
il 2 ottobre scorso e causato da un conducente umano, che ha investito
un pedone e poi è fuggito. L’investimento ha spinto il pedone nella corsia
sulla quale stava viaggiando un’auto autonoma di Cruise, che ha frenato
immediatamente, in modo automatico, ma non ha potuto evitare l’impatto con il
malcapitato pedone finitole davanti. La persona investita è rimasta
intrappolata sotto il veicolo autonomo ed è ora ricoverata con ferite
traumatiche multiple.

Ma se l‘incidente è stato causato da un automobilista, cioè da un essere
umano, perché è stata revocata la licenza di operare al gestore delle auto
autonome?

La risposta si annida nell’annuncio
di revoca e nell’ordine sospensivo
pubblicati dal Dipartimento dei Trasporti californiano.

Da questi documenti
risulta infatti che l’auto autonoma di Cruise, dopo aver frenato fino a
fermarsi, intrappolando il pedone al di sotto del veicolo, ha iniziato a
muoversi tentando di accostare. L’auto ha percorso così circa sette metri,
raggiungendo una velocità di 11 chilometri orari, trascinando con sé il pedone
già gravemente ferito. Un errore di comportamento del veicolo davvero grave,
che però non è l’unica causa della revoca della licenza.

Infatti secondo il Dipartimento dei Trasporti, i rappresentanti di Cruise
hanno mostrato alle autorità le riprese dell’investimento registrate dalle
telecamere installate sull’auto autonoma, ma hanno omesso di mostrare le
immagini che documentavano questa manovra di accostamento e di trascinamento
della povera vittima e non hanno informato il Dipartimento dei Trasporti del
fatto che la manovra era avvenuta. Il Dipartimento dice di essere venuto a
conoscenza di questa omissione soltanto grazie a una discussione con
“un’altra agenzia governativa” di cui non fa il nome.

Cruise
non concorda
con questa ricostruzione degli eventi e osserva che se l’auto che ha investito
inizialmente il pedone fosse stata autonoma anziché guidata da una persona,
avrebbe rilevato ed evitato il pedone, stando alle sue simulazioni. Cruise
nota inoltre che che l’auto autonoma ha di fatto reagito in 460 millisecondi,
cioè più rapidamente della maggior parte dei conducenti umani.

La revoca della licenza, quindi, non è stata causata solo dall’errore del
veicolo: vi ha contribuito anche l’omissione di informazioni importanti da
parte dei responsabili di Cruise. Mentre il conducente umano ha fatto perdere
le proprie tracce, sembra che i rappresentanti dell’azienda di veicoli
autonomi abbiano in un certo senso fatto qualcosa di analogo, cercando di far
perdere le tracce dell’errore del proprio prodotto.

Il problema, insomma, non è solo la programmazione del software delle auto
autonome, che si può sempre riscrivere e migliorare, ma è – come dire – la
“programmazione” dei comportamenti dei responsabili di Cruise, che
probabilmente è molto più difficile da correggere e rendere più trasparente.

Nel frattempo, la concorrenza, cioè Waymo, continua a poter operare a San
Francisco. Segno che le autorità non sono diffidenti verso le automobili
autonome in generale, ma diffidano dei responsabili umani delle aziende
che le producono e che non sono adeguatamente trasparenti.

[Fonti aggiuntive:
Electrek, ABC7news,
Techcrunch,
Techcrunch. Nota: Cruise ha pubblicato una ricerca secondo la quale i suoi veicoli autonomi sono più sicuri del conducente medio di San Francisco, ma è importante leggere attentamente i criteri della ricerca]

USA vs Europa, approcci differenti, miti da smontare

Le differenze di approccio giuridico alla guida assistita o autonoma nelle
varie zone del mondo sono molto marcate, ma le esperienze acquisite in questi
anni indicano alcuni princìpi universali che è utile conoscere per evitare
equivoci e scelte di acquisto e uso imprudenti o addirittura illegali,
suggerite da campagne di marketing a volte un po’ troppo ottimiste e poco
chiare.

Per esempio, la guida autonoma di massa in ogni situazione che Elon Musk
annunciava
come imminente nel 2016 su Twitter per le sue Tesla continua infatti a essere
imminente e il conducente di questi veicoli continua ancora oggi a essere
legalmente responsabile della loro condotta e deve tenersi pronto a
intervenire quando sbagliano, anche negli Stati Uniti.

Uno di questi princìpi universali è che la guida assistita e quella autonoma
sono problemi informatici molto più complessi di quello che si immagina
comunemente, nonostante l’impiego sempre più massiccio di intelligenza
artificiale e di potenza di calcolo, perché l’ambiente in cui si svolgono
queste attività è molto più vario, dinamico e ricco di situazioni
imprevedibili di quello che si pensa normalmente, specialmente nel caso della
guida cittadina.

Una soluzione a questi problemi è semplificare l’ambiente, e infatti i sistemi
di guida assistita funzionano già ora piuttosto bene, e vengono offerti da
numerose case costruttrici, specificamente sulle autostrade, dove normalmente
si ha una singola direzione di marcia, le strisce delle corsie sono ben
visibili e non ci sono semafori, incroci, pedoni e ciclisti. Ma basta anche lì
un cantiere per mandarli in crisi.

Nel Regno Unito, per esempio, è entrato da poco in commercio il servizio di
assistenza alla guida BlueCruise di Ford, nel quale il conducente resta
responsabile della condotta del veicolo ma è legalmente autorizzato a togliere
le mani dal volante anche per periodi prolungati e può togliere gli occhi
dalla strada per qualche secondo, sorvegliato comunque da una telecamera
interna che controlla costantemente la direzione del suo sguardo. Tuttavia
BlueCruise funziona soltanto sulla rete autostradale di quel paese e il
conducente deve tenersi sempre pronto a intervenire se si presenta una
situazione che il sistema di guida assistita non è in grado di gestire.

In Germania, negli Stati Uniti e in Cina, invece, è possibile usare
Drive Pilot, l’assistente di guida di Mercedes, che è una delle poche case costruttrici
che si assume la responsabilità legale in caso di incidenti e offre al
conducente un sistema che gli permette di togliere le mani dal volante e anche
gli occhi dalla strada. Tuttavia Drive Pilot funziona soltanto su tratti
autostradali molto specifici, solo di giorno, fuori dalle gallerie e a
velocità ridotta (sotto i 60 km/h), e comunque non consente pennichelle o
altre distrazioni importanti, visto che dà un preavviso di soli dieci secondi
prima di disattivarsi se rileva una situazione che non è equipaggiato per
affrontare.

Visto che si tratta di gestire oggetti che pesano due tonnellate o più, sono
lanciati a velocità elevate in ambienti affollati e portano passeggeri
preziosi, è comprensibile che ci sia molta prudenza tecnica e legale intorno a
questi sistemi. Lasciando da parte i facili entusiasmi del marketing e degli
YouTuber, è proprio il caso di dire che per ora la guida assistita e quella
autonoma devono ancora fare molta strada.

Sarò a Pordenone il 27 e 28 ottobre per il Linux Day!