[P3]CyberAcademy

Sentenze inventate da ChatGPT: il caso del Tribunale di Firenze e come verificare

· Redazione CyberAcademy · P3 Consulting

Un atto difensivo citava sentenze di Cassazione inesistenti trovate con ChatGPT. Cosa ha deciso il Tribunale di Firenze nel marzo 2025 e come si verifica un output prima di usarlo.

Con un'ordinanza del 14 marzo 2025 la sezione imprese del Tribunale di Firenze si è occupata di un atto difensivo che citava sentenze della Corte di cassazione inesistenti. Secondo quanto ricostruito nel procedimento e riportato dalla stampa giuridica, le aveva cercate con ChatGPT una persona dello studio, e l'avvocato non le aveva controllate. Lo strumento le aveva confermate anche quando gli era stato chiesto di nuovo.

Il tribunale non ha applicato la condanna per lite temeraria, perché mancavano la prova della malafede e di un danno, ma ha sottolineato il disvalore della mancata verifica.

Perché succede

Un modello linguistico genera il testo più probabile in risposta a una domanda. Non consulta un archivio di sentenze verificate: produce frasi plausibili, e una citazione plausibile può essere inventata. Si chiama allucinazione. L'OWASP mette la disinformazione generata dai modelli (LLM09) tra i dieci rischi principali delle applicazioni basate su LLM nel 2025.

Come si verifica

  • si risale alla fonte primaria: la banca dati delle sentenze, la Gazzetta Ufficiale, il documento originale;
  • si aprono i link e si controlla che dicano quello che il chatbot riporta;
  • non si chiede al chatbot se è sicuro: può confermare il proprio errore, come nel caso di Firenze.

Più l'output pesa, più la verifica va fatta riga per riga. Una bozza interna si controlla in fretta, un atto o un documento per un cliente no.

Il corso

Il primo modulo del percorso AI generativa al lavoro spiega come ragiona un chatbot e come verificare quello che produce, partendo da questo caso.

Fonti

Formate il team su questi temi

Moduli brevi con quiz, attestati verificabili e Cybì, l'assistente che risponde ai dubbi con il testo del corso.