Usa ChatGPT in tribunale e viene beccato

Roberto Mata ha fatto causa alla compagnia aerea Avianca perché nel 2019, durante un volo diretto a New York, era stato colpito al ginocchio da un carrello di metallo.

Il suo avvocato Steven A. Schwartz, con 30 anni di esperienza nel campo, ha utilizzato ChatGPT per preparare il caso che poi ha presentato in tribunale, purtroppo le cose non sono andate molto bene. La compagnia aerea ha chiesto al giudice federale di Manhattan di archiviare il caso. L'avvocato di Mata, Steven A. Schwartz dello studio Levidow, Levidow & Oberman, si è opposto categoricamente, presentando un fascicolo di 10 pagine con una mezza dozzina di casi giudiziari pertinenti: Martinez contro Delta Air Lines, Zicherman contro Korean Air Lines e, Varghese contro China Southern Airlines.

Ma, con comprensibile confusione, né il giudice, né gli avvocati della compagnia aerea sono riusciti a trovare i casi citati. E la motivazione è che ChatGPT se li era inventati.

L'avvocato ha poi ammesso di aver utilizzato per la sua ricerca una fonte che non era “affidabile”, ovvero il programma di intelligenza artificiale. Ha dichiarato di “essere molto dispiaciuto” di aver fatto affidamento su ChatGPT “e non lo farà mai in futuro senza una verifica assoluta della sua autenticità”.

Il danno

Nonostante la sua esperienza trentennale, Schwartz non si era accorto dell'incongruenza. Come ha spiegato al giudice newyorkese P. Kevin Castel, l'avvocato non aveva mai usato ChatGPT e quindi: “non era a conoscenza della possibilità che i suoi contenuti potessero essere falsi.”

Per il momento le false dichiarazioni dell’intelligenza artificiale non hanno avuto ripercussioni significative, anche se Schwartz l'8 giugno dovrà affrontare un'udienza per discutere potenziali sanzioni.

Il caso solleva ulteriori dubbi riguardo l’utilizzo dell’intelligenza artificiale in lavori altamente specializzati, senza una verifica “umana”. Tra i talenti dei robot quello della contraffazione è tra i più riusciti - la copia della presunta decisione Varghese presentata da Schwartz, ad esempio, è lunga sei pagine e ChatGPT afferma che è stata scritta da un membro di un collegio di tre giudici dell'11° Circuito. Un copia-incolla acritico, di questi tempi, può fare moltissimi danni.