L’utilizzo dell’intelligenza artificiale nelle professioni, tra efficienza e rischio di Allucinazioni”: casi concreti e necessità di verifica umana.

Negli ultimi anni l’utilizzo dell’Intelligenza Artificiale (IA) ha registrato una crescita significativa.

ChatGPT, Grok e Gemini sono solo alcuni esempi dei cosiddetti “chatbot” ovvero un’implementazione di questa tecnologia volta ad interagire con noi umani, imitando – con l’ausilio dei “large language model” (LLM) – i tipici ragionamenti di cui siamo capaci.

Ciò che contraddistingue questa tecnologia, rendendola particolarmente appetibile e utilizzabile – anche nella vita quotidiana – è la sua capacità di analizzare e decidere sulla base di una moltitudine di fattori e dati in un tempo estremamente ridotto, di gran lunga inferiore rispetto a quello che richiederebbe una persona per la medesima analisi.

Le allucinazioni dell’Intelligenza Artificiale

Questi chatbot presentano infatti alcune limitazioni intrinseche che derivano da diversi elementi: la qualità e la quantità dei dati presenti nei dataset utilizzati per il training del software, il tipo di addestramento a cui il programma è stato sottoposto, le priorità e gli obiettivi inseriti nel codice dal programmatore, nonché la finalità per cui il chatbot viene creato.

Nel corso del tempo, l’utilizzo di questi strumenti ha spesso superato i limiti intrinseci della tecnologia stessa, dando luogo ad usi impropri, talvolta con conseguenze indesiderate.

A tal proposito, un fenomeno sempre più diffuso è quello delle cosiddette “AI Hallucinations” (Ad litteram: allucinazioni dell’intelligenza artificiale), termine che indica la predisposizione di questi sistemi a generare risultati inventati pur di fornire una risposta, soprattutto quando la stessa non è immediatamente evidente o quando non vi sono dati sufficienti per raggiungerla.

Si tratta di un fenomeno in crescita: i modelli predittivi più moderni sembrano essere sempre più esposti a questo problema. Per questo motivo, chi si avvale di tali strumenti dovrebbe esercitare la massima cautela, specialmente quando i risultati ottenuti vengono utilizzati in un contesto professionale.

Gli esempi nel mondo

Negli Stati Uniti — così come in altre parti del mondo, Italia compresa — professionisti che hanno utilizzato impropriamente questa tecnologia hanno dovuto gestire situazioni spiacevoli, se non addirittura dannose per sé stessi, per la propria attività e per i terzi con cui interagiscono.

Alcuni esempi particolarmente significativi emergono con chiarezza.

Il primo è rappresentato dal caso Mata v. Avianca, Inc., trattato dalla U.S. District Court del distretto meridionale di New York, in cui un avvocato ha ricevuto una sanzione per aver utilizzato precedenti giurisprudenziali inesistenti generati da ChatGPT.

Il secondo riguarda il mondo corporate, lo scandalo legato a Deloitte – società di consulenza facente parte delle cosiddette “Big Four”, riconosciuta a livello mondiale – dove l’utilizzo di informazioni generate e non verificate da un sistema di IA ha contribuito alla produzione di un report contenente dati inesatti destinato al governo australiano.

Casi in Italia

In Italia non mancano situazioni di “Allucinazioni” in cui l’utilizzo superficiale di strumenti di intelligenza artificiale ha portato alla produzione di atti o pareri contenenti riferimenti normativi inesatti o citazioni giurisprudenziali inesistenti.

Un recente esempio riguarda il Tribunale di Siracusa che con Sentenza del 20/02/2026, n. 338 condannava parte attrice ex art 96 c.p.c. ad un’ammenda di € 2.000,00 per aver “svolto le proprie difese con colpa grave, se non con mala fede.” In questo caso, parte attrice aveva citato quattro precedenti giurisprudenziali della Corte di Cassazione a sostegno della propria tesi includendo, addirittura, dei virgolettati apparentemente estratti dalle summenzionate sentenze.

A seguito di un’analisi del Centro Elettronico di Documentazione della Corte di Cassazione, è emerso che i riferimenti citati non esistevano o non coincidevano con quanto riportato nel registro ufficiale. Benché non si sia accertato inequivocabilmente l’uso di sistemi di intelligenza artificiale, il Tribunale ha concluso che “l’unica ipotesi residua, e al tempo stesso la più compatibile con la fenomenologia concreta del caso, è che il difensore si sia avvalso di uno strumento di intelligenza artificiale generativa senza sottoporre gli output ottenuti alla doverosa verifica sulle fonti primarie.”.

Conclusione

Alla luce di questi esempi emerge che il ricorso all’IA nell’ambito professionale richiede la massima cautela. Questi strumenti possono rappresentare un valido ausilio nella ricerca e nell’elaborazione delle informazioni, ma devono sempre essere sottoposti a un attento vaglio critico da parte del professionista, il quale rimarrebbe comunque responsabile per eventuali errori. Laddove tale verifica venga meno il rischio è quello di una pericolosa “over-reliance” sulla tecnologia, con possibili conseguenze non solo per il professionista e la sua attività, ma anche per i soggetti che su di lui fanno affidamento.

Angelo Vito Falsini