Verificarea rezultatului IA în criminalistica digitală: ce trebuie să vadă o instanță

Orice conversație despre IA în criminalistica digitală ajunge, până la urmă, la aceeași întrebare, formulată de obicei ca o provocare: de unde știm că nu inventează.

Este întrebarea corectă, iar răspunsurile obișnuite sunt proaste. Furnizorii răspund cu procente de acuratețe, care sunt nefalsificabile într-o sală de judecată, pentru că nimeni nu poate reproduce benchmark-ul. Sau răspund cu asigurări despre calitatea modelului, ceea ce este o afirmație despre o componentă, nu despre procesul prin care a trecut proba.

Răspunsul mai bun este incomod și mult mai puternic: presupuneți că va greși uneori, și construiți astfel încât greșeala să fie ieftin de detectat.

Ce întreabă de fapt o instanță

O instanță nu evaluează un model. O instanță întreabă dacă o afirmație factuală anume dintr-un raport poate fi susținută.

Întrebarea aceea are o formă care precedă IA cu decenii. De unde a venit aceasta. Cine a examinat-o. Mi se poate arăta. Apărarea poate examina același material. S-a schimbat ceva. Introducerea unui model de limbaj în fluxul de lucru nu schimbă întrebarea, schimbă numai cât de ușor sau de greu este de răspuns.

Așadar cerința de concepție nu este ca modelul să aibă dreptate. Este ca fiecare afirmație pe care o produce să se rezolve într-o înregistrare anume pe care un om o poate deschide, citi și, dacă este nevoie, pune în fața unui judecător.

Dacă o afirmație nu poate fi urmărită înapoi până la o înregistrare, nu ar trebui să fie în raport, fie că a produs-o un model, fie că a produs-o un om obosit la ora unsprezece noaptea.

Citarea este o proprietate structurală, nu o caracteristică

Este o diferență mare între un sistem care își menționează de obicei sursele și unul care nu poate produce un rezultat fără ele.

În primul, citarea este un comportament. Se obține cerând frumos, se degradează în cazurile neobișnuite și eșuează exact acolo unde aveți cea mai mare nevoie de ea: răspunsul lung și complicat care sintetizează mai multe fire, cel pe care un analist îl poate verifica cel mai puțin din memorie.

În al doilea, pasul de regăsire are loc întâi, iar identitatea înregistrărilor regăsite călătorește cu răspunsul prin tot parcursul. Citarea nu este ceva ce a scris modelul. Este o înregistrare a rândurilor care au fost citite.

Această distincție este ceea ce ar trebui să sondeze un evaluator. Întrebarea utilă nu este „citează sursele”. Este „ce se întâmplă dacă nu poate găsi una”, iar singurul răspuns acceptabil este că nu se produce nicio afirmație.

Verificarea trebuie să fie ieftină, altfel nu va avea loc

Iată partea care este subestimată, și este o problemă de factori umani, nu una tehnică.

Orice proces care cere analistului să petreacă o după-amiază confirmând o constatare va produce, sub volumul de cazuri, mai puține constatări confirmate. Nu pentru că analiștii ar fi neglijenți, ci pentru că timpul este finit și confirmarea concurează cu celelalte douăsprezece sigilii care așteaptă. Un pas de verificare care este scump este un pas de verificare care este raționat, iar verificarea raționată este mai rea decât nicio automatizare, pentru că poartă aparența rigorii fără substanță.

Așadar măsura care contează este costul unei verificări. Dacă a ajunge la înregistrarea sursă ia un clic și arată rândul original în contextul lui original, verificarea încetează să fie o decizie pe care analistul trebuie să o ia. Devine calea implicită, pentru că a o sări nu economisește nimic.

Acesta este argumentul pentru a construi trasabilitatea în modelul înregistrării, mai degrabă decât a o reconstitui la momentul afișării. O citare care se rezolvă în continuare după ce maparea care a produs-o a fost revizuită este o citare pe care un analist se poate baza luni mai târziu, când cazul ajunge în instanță și nimeni nu își amintește detaliile.

Ce să întrebați un furnizor

Dacă evaluați orice instrument care are în el un asistent IA, patru întrebări le despart pe cele serioase de rest.

Puteți face clic pe orice afirmație și ajunge la înregistrarea sursă? Nu un document, nu o pagină, înregistrarea. Cereți-le să o facă pe loc, pe o afirmație pe care o alegeți dumneavoastră, într-un fir pe care îl alegeți dumneavoastră.

Ce este jurnalizat? Fiecare acțiune pe care a făcut-o asistentul și fiecare rezultat pe care l-a primit ar trebui scrise undeva unde dumneavoastră controlați și puteți citi. Dacă jurnalul stă la furnizor, acela este un produs diferit, cu un profil de risc diferit.

Unde se duc datele? Dacă răspunsul implică un furnizor terț de inferență, aceasta este o decizie pe care serviciul dumneavoastră trebuie să o ia deliberat, nu să o descopere într-o revizuire de securitate după instalare.

Ce face când nu știe? Puneți o întrebare la care datele nu pot răspunde, și priviți. Un sistem care produce un paragraf sigur pe el, bine scris și cu totul nesusținut v-a spus tot ce trebuie să știți despre felul în care se va purta pe un caz real la două dimineața.

Poziția onestă

Experții criminaliști independenți au fost consecvenți în privința aceasta: rezultatul IA trebuie verificat față de datele originale înainte de a se putea baza pe el. Aceasta nu este o limitare de înlăturat prin inginerie, este relația corectă dintre un sistem automat și un proces probatoriu.

Valoarea de a pune un model în munca criminalistică nu este că înlocuiește judecata analistului. Este că face posibil exercițiul acelei judecăți la un volum la care, altfel, el încetează în liniște să aibă loc. Un analist care înainte putea citi cinci la sută dintr-un dispozitiv și acum citește partea relevantă din tot, cu fiecare concluzie verificabilă dintr-un clic, face o muncă criminalistică mai bună, nu o muncă criminalistică mai automatizată.

Aceasta este singura afirmație care merită făcută, și este cea pe care am prefera să fim ținuți.