Come l’IA scompone, rappresenta e recupera il linguaggio giuridico e perché questi meccanismi invisibili cambiano il modo di interrogare le banche dati e di redigere i prompt

Articolo estratto da un contributo in preparazione a cura dell’Avv. Annamaria Palumbo

1. Premessa: la sezione più tecnica con le implicazioni più sottovalutate

Tokenizzazione ed embedding sono, tra gli argomenti di questo modulo, i più lontani dall’esperienza immediata dell’avvocato. Non sono visibili nell’interfaccia di ChatGPT o di Claude: operano sotto la superficie, nel momento in cui il testo viene elaborato, in uno strato invisibile all’utente. Proprio per questa invisibilità, le loro implicazioni pratiche sono tra le più sistematicamente ignorate nella formazione professionale sull’IA.

L’avvocato che comprende la tokenizzazione sa perché il modello produce output di qualità inferiore su certi termini giuridici latini, perché alcune espressioni tecniche vengono rese in modo impreciso, e come strutturare i prompt per compensare queste debolezze strutturali. L’avvocato che comprende gli embedding sa perché la ricerca semantica trova concetti che la ricerca per parola chiave non trova, e perché non tutti i tool con ‘intelligenza artificiale’ nel nome sono ugualmente affidabili. L’avvocato che comprende il RAG sa quando fidarsi dell’output di uno strumento di analisi documentale e quando invece la fonte citata richiede verifica indipendente immediata.

Questi non sono dettagli tecnici di interesse accademico. Sono le fondamenta operative di una pratica professionale informata nell’era dell’IA.

2. La tokenizzazione: come un LLM scompone il testo giuridico

2.1 Che cosa è un token e perché importa

Prima di elaborare qualsiasi testo, un LLM lo converte in una sequenza di token. Un token non corrisponde necessariamente a una parola intera: può essere una parola completa, una radice, un suffisso, un carattere di punteggiatura, o uno spazio. La granularità dipende dall’algoritmo di tokenizzazione e, soprattutto, dalla frequenza del termine nel corpus di addestramento: le parole più frequenti tendono a essere rappresentate da token singoli; le parole rare, tecniche, o appartenenti a lingue diverse dall’inglese vengono suddivise in più frammenti.

Quattro ragioni pratiche rendono la tokenizzazione rilevante per il giurista:

Prima ragione: la qualità della comprensione. Un termine rappresentato da un singolo token ha una rappresentazione semantica più ricca e stabile rispetto a un termine suddiviso in più frammenti. Il modello ‘conosce’ meglio le parole che ha visto frequentemente come unità intere durante l’addestramento. Il diritto italiano, essendo meno rappresentato nei corpora di addestramento rispetto al diritto inglese e americano, ha mediamente una qualità di tokenizzazione inferiore sui termini più tecnici e rari, con una conseguenza diretta sulla qualità degli output su quella terminologia.

Seconda ragione: i costi di elaborazione. I modelli commerciali addebitano il costo per numero di token processati, non per parole. Un testo in italiano occupa mediamente il 15-25% di token in più rispetto allo stesso testo in inglese, perché l’italiano ha parole mediamente più lunghe e meno frequenti nel corpus anglofono predominante. Per singoli utilizzi il costo aggiuntivo è trascurabile. Per operazioni su larga scala (analisi di corpus, due diligence su centinaia di documenti) l’impatto economico può diventare rilevante.

Terza ragione: i limiti della context window. Poiché la context window è misurata in token e non in parole, un testo in italiano occupa più spazio disponibile rispetto allo stesso testo in inglese. La stima comune di ‘700 token per pagina’ è quella che assume un testo in inglese standard; per un testo giuridico italiano denso, la stima prudente è 800-900 token per pagina. Questo modifica i calcoli di fattibilità per operazioni su documenti lunghi.

Quarta ragione: la tokenizzazione asimmetrica del lessico giuridico. I brocardi latini (elemento distintivo del linguaggio giuridico italiano) sono scarsamente presenti nei corpora di addestramento generali. Termini come ‘commodum eius esse debet cuius periculum est’ o ‘nemo plus iuris transferre potest quam ipse habet’ vengono tokenizzati in dieci o più frammenti, con una rappresentazione semantica frammentata che si traduce in output di qualità inferiore rispetto ai termini equivalenti in inglese. La strategia di compensazione (affiancare sempre il termine latino con il riferimento normativo italiano) è descritta nella tabella della sezione 2.3.

2.2 Il Byte Pair Encoding e la struttura del vocabolario

L’algoritmo di tokenizzazione più diffuso è il Byte Pair Encoding (BPE), usato da GPT-4 e dalla famiglia GPT; Claude usa varianti simili con risultati pratici analoghi. Il BPE parte dai singoli byte del testo e unisce progressivamente le coppie più frequenti, costruendo un vocabolario di dimensioni fisse (tipicamente 50.000-100.000 token) che bilancia copertura del lessico e compressione del testo.

Il risultato è che il vocabolario del modello contiene come token singoli tutte le parole ad alta frequenza nella lingua di addestramento (prevalentemente inglese), le radici più comuni delle parole meno frequenti, e frammenti di parole rare. Per il diritto italiano, questo significa che termini come ‘contratto’, ‘responsabilità’, ‘inadempimento’ sono tipicamente uno o due token; termini come ‘actio pauliana‘, ‘condictio indebiti‘, ‘fumus boni iuris‘ sono tre-sei token; formule complete come ‘rebus sic stantibus‘ sono quattro-cinque token. La differenza si traduce direttamente nella qualità dell’elaborazione semantica.

2.3 La tokenizzazione del linguaggio giuridico latino: tabella dei 19 termini più usati

Il linguaggio giuridico italiano è caratterizzato da un uso frequente di brocardi e massime latine che rappresentano concetti tecnici precisi, sedimentati in secoli di tradizione giuridica romano-canonica. Questi termini sono scarsamente presenti nei corpora di testo generale su cui si addestrano i modelli commerciali di IA. La tabella seguente analizza diciannove termini di uso frequente nella pratica italiana, con indicazioni sulla tokenizzazione e sulle strategie di prompting che ottimizzano la qualità dell’output.

Tre osservazioni trasversali meritano di essere esplicitate:

Prima osservazione: la frequenza nei dati di addestramento è più importante della lunghezza del termine. Un termine breve ma raro può avere rappresentazione semantica più povera di un termine lungo ma frequente. La prima strategia di prompting per i termini rari è sempre affiancare il riferimento normativo: non ‘actio pauliana’ ma ‘azione revocatoria (actio pauliana) ex art. 2901 c.c.’.

Seconda osservazione: il modello tende strutturalmente a traslare verso il diritto angloamericano. Molti brocardi latini hanno equivalenti nel common law (‘res iudicata’ corrisponde a ‘issue preclusion/claim preclusion’, ‘in dubio pro reo’ corrisponde a ‘beyond reasonable doubt standard’). Poiché i dati anglofoni sono preponderanti nel training corpus, il modello può applicare inconsapevolmente la variante angloamericana del principio anche in contesto italiano. La specificazione esplicita del sistema giuridico italiano e del riferimento codicistico nel prompt è la contromisura sistematica.

Terza osservazione: i termini processuali specifici del rito italiano richiedono sempre contestualizzazione. Termini come ‘domanda riconvenzionale’, ‘regolamento di competenza’, ‘opposizione di terzo’, ‘revocazione’, ‘efficacia ultrattiva del giudicato’ non hanno equivalenti diretti in altri sistemi e devono essere sempre accompagnati dal riferimento al codice di procedura civile italiano per evitare output che mescolano i diversi sistemi processuali.