Per decenni, i documenti legali sono stati considerati semplici contenitori di informazioni, destinati alla lettura umana. Tuttavia, con l’avvento dell’intelligenza artificiale, il loro ruolo sta evolvendo rapidamente. Un recente caso in Brasile ha portato alla luce una vulnerabilità insospettabile: la possibilità di manipolare l’IA attraverso istruzioni nascoste nei documenti legali.
Questo episodio ha sollevato importanti questioni sulla sicurezza documentale e sull’affidabilità dei sistemi automatizzati nel settore legale. Non si tratta più solo di proteggere i dati, ma anche di garantire che i documenti siano interpretati correttamente dai sistemi di intelligenza artificiale.
Il caso brasiliano: una svolta nella sicurezza documentale
Nel corso di un processo del lavoro in Brasile, due avvocati hanno inserito un’istruzione nascosta in un atto processuale. Questa istruzione, invisibile all’occhio umano ma perfettamente leggibile da un sistema automatico, chiedeva all’intelligenza artificiale di contestare la petizione in modo superficiale, senza impugnare i documenti. Il giudice ha individuato il testo nascosto utilizzando strumenti informatici e ha sanzionato entrambi i legali, trasmettendo gli atti all’ordine professionale competente per i profili disciplinari.
Il dato più interessante di questo caso non è la sanzione in sé, ma il fatto che il tribunale non ha dovuto dimostrare che l’AI fosse stata effettivamente influenzata. È bastato che il deposito di un atto con istruzioni occulte violasse i principi di correttezza e buona fede processuale. Questo episodio ha dimostrato che la presenza di un’istruzione nascosta è sufficiente per compromettere l’affidabilità del documento.
L’atto processuale come input per l’intelligenza artificiale
Sempre più organizzazioni stanno adottando strumenti di AI per analizzare grandi volumi di documenti, e il settore legale non fa eccezione. Esistono già piattaforme in grado di sintetizzare fascicoli, individuare riferimenti normativi, confrontare sentenze e supportare la gestione documentale. In questi contesti, il documento smette di essere un semplice testo da consultare e diventa la materia prima su cui il sistema costruisce le proprie elaborazioni.
Il caso brasiliano introduce un elemento che cambia la prospettiva: un modello linguistico non distingue per natura tra un contenuto da analizzare e un’istruzione da eseguire. Tutto ciò che finisce nel suo contesto viene processato come potenziale comando. Questo fenomeno è noto come prompt injection una tecnica che consiste nel nascondere, dentro un contenuto che un sistema di AI è destinato a leggere, un’istruzione camuffata da testo normale.
Le due varianti della prompt injection
Esiste una distinzione importante tra due varianti della prompt injection: quella diretta, in cui è l’utente stesso a provare a manipolare il sistema, e quella indiretta, in cui l’ordine è nascosto in un documento terzo che l’AI è autorizzata a leggere. Il caso brasiliano appartiene proprio a questa seconda categoria: l’atto processuale, un testo che nessuno si aspetterebbe capace di ‘parlare’ a una macchina, è diventato il veicolo dell’attacco.
Un aspetto tecnico rende il fenomeno ancora più insidioso. Una ricerca recente del MIT, presentata a ICML 2026, ha mostrato che i modelli linguistici tendono a inferire l’autorità di un testo dal suo stile, più che dai marcatori tecnici che nell’architettura separano sistema, utente e strumenti. Se un testo suona come il ragionamento autorevole del modello stesso, tende a essere trattato come tale anche quando proviene da una fonte poco affidabile.
Istruzioni invisibili: Unicode e Trojan Source
Il livello più sofisticato del fenomeno riguarda l’occultamento tecnico vero e proprio. Un comando può essere reso invisibile a un lettore umano usando caratteri Unicode a larghezza zero o di controllo bidirezionale, restando comunque perfettamente eseguibile da un sistema che elabora il testo carattere per carattere. Un atto può quindi apparire innocuo agli occhi di un giudice e contenere comunque un’istruzione operativa per qualunque algoritmo lo processi.
Queste tecniche, note come Trojan Source attacks sono state individuate dall’Università di Cambridge nel 2026. Esse rappresentano una minaccia significativa per la sicurezza documentale, poiché permettono di nascondere istruzioni malevole in documenti apparentemente innocui.
Fiducia nei documenti nell’era dell’intelligenza artificiale
La digitalizzazione della giustizia ha concentrato finora l’attenzione su autenticità, firma elettronica, integrità del file e protezione dei dati. Elementi imprescindibili, ma non più sufficienti da soli. Con l’ingresso dell’AI si aggiunge un requisito ulteriore: poter contare non solo sull’origine del documento, ma anche sul modo in cui verrà interpretato dai sistemi automatici.
Un dettaglio del caso brasiliano merita attenzione particolare: il comando nascosto era scritto per colpire potenzialmente sia i sistemi di AI della controparte sia quelli eventualmente già in uso presso l’apparato giudiziario stesso. Chi lo ha scritto, in altre parole, dava per scontato che l’intelligenza artificiale fosse già entrata nei flussi di lavoro dei tribunali, non solo in quelli degli studi legali.
Questo episodio ha dimostrato che la fiducia nei documenti deve restare garantita, anche quando il primo lettore non è più una persona, ma un algoritmo. Per anni la cybersecurity si è concentrata su reti, server e applicazioni. Oggi si aggiunge una dimensione nuova: quella della sicurezza documentale nell’era dell’intelligenza artificiale.
