Ricerca giurisprudenziale e prevenzione rischio di allucinazioni

La ricerca giurisprudenziale con strumenti di intelligenza artificiale generalisti porta con sé un rischio noto: le allucinazioni.

Si tratta di casi in cui il sistema genera informazioni false, inesistenti o palesemente inventate, pur presentandole con un linguaggio formale, convincente e apparentemente logico. Nel campo giuridico, le allucinazioni si manifestano principalmente attraverso:

• Precedenti e sentenze inventate: l’AI cita numeri di ruolo, date, tribunali e nomi delle parti totalmente inesistenti;
• Principi di diritto distorti: l’AI attribuisce a una sentenza realmente esistente un principio giuridico o una massima che quella corte non ha mai espresso.

Per prevenire questo rischio servono strumenti che fondano le proprie risposte su informazioni verificate. Uno strumento di AI legale come 4cAi X integra una banca dati e vi aggiunge un passaggio di parsing: un doppio controllo che fa in modo che il sistema restituisca solo pronunce effettivamente esistenti, con riferimenti normativi e giurisprudenziali cliccabili. Se una sentenza compare, esiste e si può aprire e leggere.

C’è poi una questione di metodo. Meglio una catena di prompt (prima analisi del fascicolo, poi brainstorming e infine la ricerca mirata sul caso) che un unico prompt caricato di troppi passaggi: scomporre il lavoro lascia all’avvocato maggiore controllo su ogni fase.