Verificare l’output dell’IA nella forense digitale: che cosa un tribunale deve poter vedere

Ogni conversazione sull’IA nella forense digitale arriva prima o poi alla stessa domanda, di solito formulata come una sfida: come sappiamo che non si sta inventando le cose.

È la domanda giusta, e le risposte abituali sono cattive. I fornitori rispondono con percentuali di accuratezza, che in un’aula sono infalsificabili perché nessuno può riprodurre il benchmark. Oppure rispondono con rassicurazioni sulla qualità del modello, che è un’affermazione su un componente e non sul processo che le prove hanno attraversato.

La risposta migliore è scomoda e molto più forte: si dia per certo che a volte sbaglierà, e si costruisca così che sbagliare sia economico da scoprire.

Che cosa chiede davvero un tribunale

Un tribunale non valuta un modello. Un tribunale chiede se una specifica affermazione di fatto in un rapporto si possa sostenere.

Quella domanda ha una forma che precede l’IA di decenni. Da dove viene. Chi l’ha esaminato. Me lo si può mostrare. La difesa può esaminare lo stesso materiale. È stato cambiato qualcosa. Introdurre un modello linguistico nel flusso di lavoro non cambia la domanda: cambia solo quanto è facile o difficile rispondere.

Il requisito di disegno, quindi, non è che il modello abbia ragione. È che ogni affermazione che produce si risolva in un record preciso che una persona può aprire, leggere e, se necessario, mettere davanti a un giudice.

Se un’affermazione non si può far risalire a un record, non dovrebbe essere nel rapporto, che l’abbia prodotta un modello o una persona stanca alle undici di sera.

La citazione è una proprietà strutturale, non una funzione

C’è una grande differenza tra un sistema che di solito menziona le sue fonti e uno che non può produrre output senza di esse.

Nel primo, la citazione è un comportamento. Si ottiene chiedendo con gentilezza, si degrada nei casi insoliti e fallisce esattamente dove serve di più: la risposta lunga e complicata che sintetizza diversi fili, che è quella che un analista è meno in grado di controllare a memoria.

Nel secondo, il passaggio di recupero avviene per primo e l’identità dei record recuperati viaggia con la risposta lungo tutta la catena. La citazione non è qualcosa che il modello ha scritto. È un registro di quali righe sono state lette.

È questa distinzione che chi valuta dovrebbe sondare. La domanda utile non è «cita le fonti». È «che cosa succede se non riesce a trovarne una», e la sola risposta accettabile è che non si produce alcuna affermazione.

La verifica deve essere economica, altrimenti non avverrà

Ecco la parte che viene sottostimata, ed è un problema di fattori umani più che tecnico.

Qualsiasi processo che richieda all’analista di passare un pomeriggio a confermare un accertamento produrrà, sotto il carico di casi, meno accertamenti confermati. Non perché gli analisti siano negligenti, ma perché il tempo è finito e la conferma compete con gli altri dodici sigilli in attesa. Un passaggio di verifica che è costoso è un passaggio di verifica che viene razionato, e una verifica razionata è peggio di nessuna automazione, perché porta l’apparenza del rigore senza la sostanza.

La misura che conta, quindi, è il costo di un controllo. Se arrivare al record di origine richiede un clic e mostra la riga originale nel suo contesto originale, la verifica smette di essere una decisione che l’analista deve prendere. Diventa il comportamento predefinito, perché saltarla non fa risparmiare nulla.

È l’argomento per costruire la tracciabilità della fonte nel modello dei record, invece di ricostruirla al momento della visualizzazione. Una citazione che si risolve ancora dopo che la mappatura che l’ha prodotta è stata rivista è una citazione su cui un analista può fare affidamento mesi dopo, quando il caso arriva in tribunale e nessuno ricorda i dettagli.

Che cosa chiedere a un fornitore

Se sta valutando uno strumento che contiene un assistente di IA, quattro domande separano quelli seri dal resto.

Può fare clic su qualsiasi affermazione e arrivare al record di origine? Non un documento, non una pagina: il record. Chieda di farlo dal vivo, su un’affermazione che sceglie Lei, in un filo che sceglie Lei.

Che cosa è registrato? Ogni azione che l’assistente ha compiuto e ogni risultato che ha ricevuto dovrebbe essere scritto da qualche parte che Lei controlla e può leggere. Se il log sta presso il fornitore, è un prodotto diverso, con un profilo di rischio diverso.

Dove vanno i dati? Se la risposta coinvolge un fornitore di inferenza terzo, è una decisione che il Suo servizio deve prendere deliberatamente, e non scoprire in una revisione di sicurezza dopo l’installazione.

Che cosa fa quando non sa? Faccia una domanda a cui i dati non possono rispondere, e osservi. Un sistema che produce un paragrafo sicuro, ben scritto e del tutto privo di sostegno Le ha detto tutto ciò che deve sapere su come si comporterà su un caso reale alle due del mattino.

La posizione onesta

Gli esperti forensi indipendenti sono stati coerenti su questo punto: l’output dell’IA deve essere verificato contro i dati originali prima che ci si possa fare affidamento. Non è un limite da eliminare con l’ingegneria: è la relazione corretta tra un sistema automatico e un processo probatorio.

Il valore di mettere un modello nel lavoro forense non è che sostituisce il giudizio dell’analista. È che rende possibile esercitare quel giudizio a un volume in cui, altrimenti, smette in silenzio di avvenire. Un analista che prima poteva leggere il cinque per cento di un dispositivo e ora legge la parte rilevante di tutto, con ogni conclusione controllabile in un clic, sta facendo un lavoro forense migliore, non un lavoro forense più automatico.

È la sola affermazione che vale la pena fare, ed è quella su cui preferiremmo essere chiamati a rispondere.