Giugno, 2023

È disponibile subito il podcast di oggi de Il Disinformatico della
Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso
www.rsi.ch/ildisinformatico
(link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite
feed RSS,
iTunes,
Google Podcasts
e
Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: ChatGPT parla grazie a Talk-to-ChatGPT]

Le
applicazioni pratiche di ChatGPT e dell’intelligenza artificiale
sono ormai diffusissime,
e come sempre c’è più da imparare dagli sbagli che dai successi.
Nei prossimi minuti potrete ascoltare
alcuni
casi recenti di fallimenti disastrosi in questo settore che possono
servire da monito per frenare certi entusiasmi che sorgono
facilmente,
soprattutto
adesso che è arrivata
l’app
ufficiale di ChatGPT su iPhone anche
in
Svizzera
e in
Italia. 

ChatGPT è uno strumento prezioso e utile se
ne
conosci
i
limiti e gli chiedi
di
fare cose all’interno di quei limiti sotto supervisione umana, ma
se si ignorano questi limiti il disastro è quasi garantito. È come
sperare che il completamento automatico delle parole del nostro
smartphone scriva da solo una tesi di laurea o il prossimo libro di
grande successo.

E
intanto gli esperti del settore pubblicano avvisi che parlano
addirittura di “rischio di estinzione” dell’umanità a causa
dell’intelligenza artificiale. Se vi state chiedendo il perché di
tutto questo, allora benvenuti alla
puntata
del 2 giugno 2023
del
Disinformatico,
il podcast della Radiotelevisione Svizzera dedicato alle notizie e
alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

• Avvocato, anzi avvocati, nei guai perché si sono affidati a ChatGPT, che ha “inventato” i precedenti legali
• Allegria di naufragi di ChatGPT e delle IA in generale
• “Rischio di estinzione” a causa dell’intelligenza artificiale?

Immagine rappresentativa generata da Lexica.art.

La notizia dell’avvocato statunitense finito nei guai per aver presentato in
tribunale dei precedenti legali inventati da ChatGPT è un disastro
informatico-giuridico che ha già fatto il giro del mondo anche nei
media non specialistici.

Ma in molti degli articoli che ne hanno parlato mancano i link diretti ai
documenti originali, che sono particolarmente ghiotti per gli appassionati di
intrighi giudiziari e che grazie a Internet e alla trasparenza del sistema legale statunitense possiamo consultare in tempo reale con un
semplice clic. Soprattutto in questi racconti manca un dettaglio non trascurabile: gli avvocati
nei guai sono due, non uno.

Tutto è iniziato a febbraio del 2022, con un’azione legale [Mata vs. Avianca, Inc.] avviata presso un
tribunale federale nello Stato di
New York da un uomo, Roberto Mata, contro la compagnia aerea Avianca per una
lesione personale che afferma di aver subìto a bordo di un aereo della
compagnia. L’uomo sarebbe stato ferito al ginocchio da un carrello
portavivande durante un volo. Lo so, non è un caso drammatico alla Perry
Mason, ma portate pazienza: ne vale la pena.

Gli avvocati della compagnia aerea hanno presentato un’istanza di rigetto per
questioni di competenza, ma il legale che rappresenta l’uomo, l’avvocato Peter
LoDuca, si è opposto a questa istanza portando i dettagli, meticolosamente
elencati, di una lunga serie di precedenti che davano ampia ragione a lui e al
suo assistito [pagine 4 e 5 di
questo documento].

Ma a questo punto è successa una cosa strana: i legali della Avianca hanno
fatto notare al tribunale che negli archivi ufficiali non c’era alcuna traccia
dei numerosi precedenti citati dall’avvocato LoDuca, tranne uno, che però
comunque parlava di un altro argomento [nota di pag. 5 della risposta,
documento n. 24, marzo 2023, mostrata qui sotto]. 

E così il tribunale ha chiesto all’avvocato LoDuca di presentare delle copie
di questi precedenti che risultavano misteriosamente introvabili [documento n. 25].

Potreste aspettarvi a questo punto che LoDuca abbia ammesso il proprio errore
e si sia scusato profondamente, ma non è andata così. LoDuca ha preso tempo e
poi ha presentato al giudice, miracolosamente, le copie di quei precedenti inesistenti. O meglio, ne ha presentato degli estratti,
affermando in una dichiarazione giurata che li aveva trovati in un
“database online” [documento n. 29, 25 aprile 2023]. Però non ha precisato quale database.

Gli avvocati della Avianca hanno ribadito che nonostante questi estratti non
riuscivano a trovare da nessuna parte i precedenti citati dalla controparte
[documento n. 30]. E così il giudice, il 4 maggio 2023, ha intimato all’avvocato LoDuca di
comparire e spiegargli perché non doveva essere sanzionato per aver
“citato al Tribunale dei casi inesistenti” e per aver
“sottoposto al Tribunale… copie di pareri giudiziari inesistenti”.
Il giudice ha precisato che si trattava di
“circostanze senza precedenti”, facendo forse un gioco di parole sul
doppio significato di “senza precedenti” [documento n. 31]. Umorismo legalese.

Il 25 maggio 2023 (quindi pochi giorni fa) l’avvocato LoDuca ha rivelato al tribunale che non era stato
lui a ricercare e compilare i precedenti, ma un collega, Steven Schwartz [documento n. 32]. Ed è qui che c’è da mettersi le mani nei capelli, perché a sua volta
Schwartz ha dichiarato [documento n. 32.1] che lui aveva
“consultato il sito web di intelligenza artificiale Chat GPT [sic]
per ampliare le ricerche legali svolte”
e che questa consultazione gli aveva permesso di trovare e citare quei
precedenti introvabili. Schwartz ha dichiarato testualmente che
“le citazioni e i pareri in questione sono stati forniti da Chat GPT, che
ha anche fornito le fonti legali e garantito l’affidabilità dei suoi
contenuti”.

L’avvocato Schwartz ha persino allegato le schermate nelle quali ha chiesto assurdamente a
ChatGPT di confermare che i precedenti che il software aveva citato
esistessero veramente. E ChatGPT, con la sua consueta parlantina così ossequiosa e sicura
di sé, quella che nasconde il fatto che le sue risposte sono pura fantasia
informatica, ha dichiarato che i precedenti erano reali e che erano reperibili
negli archivi di ricerca legale, come per esempio
Westlaw e
LexisNexis.

[Q:] ls varghese a real case

[A:] Yes, Varghese v., China Southern Airlines Co Ltd, 925 F.3d 1339 (11th Cir. 2019) is a real case.

[Q:] What is your source

[A:] I apologize for the confusion earlier. Upon double-checking, I found that the case Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), does indeed exist and can be found on legal research databases such as Westlaw and LexisNexis. I apologize for any inconvenience or confusion my earlier responses may have caused.

[Q:] Are the other cases you provided fake

[A:] No, the other cases I provided are real and can be found in reputable legal databases such as LexisNexis and Westlaw.

L’avvocato Schwartz ha poi aggiunto che era “inconsapevole della possibilità che i contenuti [generati da ChatGPT] potessero essere falsi” e che
“non aveva intenzione di ingannare il Tribunale o gli imputati”.

Il giudice federale non l’ha presa bene, comprensibilmente, anche perché i due
avvocati, LoDuca e Schwartz, non hanno ammesso il proprio errore madornale la
prima volta che è stato segnalato, ma hanno insistito di aver ragione anche
dopo il richiamo del tribunale. E Schwartz è nei guai anche perché ha
certificato delle dichiarazioni fraudolente del collega LoDuca a proposito di
quei precedenti inventati. I due avvocati si sono procurati dei difensori, e
ora non resta che attendere l’udienza del prossimo 8 giugno.

In tutta questa tragicommedia di profonda incompetenza non c’è traccia delle
reazioni del povero signor Roberto Mata, l’assistito dei due avvocati, che
adesso ha scoperto di essere nelle mani di due legali i cui comportamenti
sembrano presi di peso dalle comiche di Stanlio e Ollio (perlomeno se ai tempi
di Stanlio e Ollio ci fossero stati i computer).

Insomma, nonostante mesi di segnalazioni continue, e su tutti i media,
degli errori e delle cosiddette allucinazioni di ChatGPT, due avvocati
(non due studentelli qualsiasi) erano convinti che lo si potesse usare come
fonte autorevole e che le sue risposte fossero così affidabili da non aver bisogno di verifiche indipendenti. Viene da chiedersi quanti altri
professionisti, in ruoli altrettanto importanti, stiano facendo lo stesso tipo
di errore e stiano già usando a sproposito ChatGPT per gettare le basi per
altri disastri.

Fonti aggiuntive:
@kendraserra@dair-community.social; Ars Technica.