Verifikation af AI-output i digital forensik: hvad en domstol skal kunne se

Enhver samtale om AI i digital forensik ender til sidst ved det samme spørgsmål, som regel formuleret som en udfordring: hvordan ved vi, at den ikke finder på.

Det er det rigtige spørgsmål, og de sædvanlige svar er dårlige. Leverandører svarer med nøjagtighedsprocenter, som er ufalsificerbare i en retssal, fordi ingen kan reproducere sammenligningsgrundlaget. Eller de svarer med beroligelse om modellens kvalitet, hvilket er en påstand om en komponent frem for om den proces, bevismaterialet gennemgik.

Det bedre svar er ubehageligt og meget stærkere: antag, at den vil tage fejl indimellem, og byg, så det er billigt at opdage, at den tager fejl.

Hvad en domstol faktisk spørger om

En domstol evaluerer ikke en model. En domstol spørger, om en bestemt faktisk påstand i en rapport kan underbygges.

Det spørgsmål har en form, der er årtier ældre end AI. Hvor kom dette fra. Hvem undersøgte det. Kan det vises for mig. Kan forsvaret undersøge det samme materiale. Blev noget ændret. Indførelsen af en sprogmodel i arbejdsgangen ændrer ikke spørgsmålet, den ændrer kun, hvor let eller svært det er at besvare.

Så designkravet er ikke, at modellen har ret. Det er, at hvert udsagn, den frembringer, opløses til en bestemt post, som et menneske kan åbne, læse og om nødvendigt lægge foran en dommer.

Hvis en påstand ikke kan spores tilbage til en post, bør den ikke være i rapporten, uanset om en model frembragte den, eller et træt menneske gjorde det klokken elleve om aftenen.

Henvisning er en strukturel egenskab, ikke en funktion

Der er en stor forskel mellem et system, der som regel nævner sine kilder, og et, der ikke kan frembringe output uden dem.

I det første er henvisning en adfærd. Den opnås ved at bede pænt, den svækkes i usædvanlige tilfælde, og den svigter netop der, hvor De har mest brug for den: det lange, komplicerede svar, der sammenfatter flere tråde, og som er det, en analytiker er mindst i stand til at kontrollere fra hukommelsen.

I det andet sker genfindingstrinnet først, og identiteten af de hentede poster følger med svaret gennem hele forløbet. Henvisningen er ikke noget, modellen skrev. Den er en registrering af, hvilke rækker der blev læst.

Den skelnen er det, den, der evaluerer, bør afprøve. Det nyttige spørgsmål er ikke “citerer den kilder”. Det er “hvad sker der, hvis den ikke kan finde en”, og det eneste acceptable svar er, at der ikke frembringes nogen påstand.

Verifikation skal være billig, ellers sker den ikke

Her er den del, der undervurderes, og det er et problem om menneskelige faktorer frem for et teknisk.

Enhver proces, der kræver, at analytikeren bruger en eftermiddag på at bekræfte et fund, vil under sagsmængde frembringe færre bekræftede fund. Ikke fordi analytikere er skødesløse, men fordi tiden er begrænset, og bekræftelsen konkurrerer med de tolv andre forseglinger, der venter. Et verifikationstrin, der er dyrt, er et verifikationstrin, der bliver rationeret, og rationeret verifikation er værre end slet ingen automatisering, fordi den bærer skinnet af stringens uden substansen.

Så det mål, der betyder noget, er omkostningen ved én kontrol. Hvis det at lande på kildeposten tager ét klik og viser den oprindelige række i dens oprindelige sammenhæng, holder verifikation op med at være en beslutning, analytikeren skal træffe. Den bliver standarden, fordi det ikke sparer noget at springe den over.

Det er argumentet for at bygge sporbarhed ind i postmodellen frem for at rekonstruere den ved visning. En henvisning, der stadig opløses, efter at den mapping, der frembragte den, er revideret, er en henvisning, en analytiker kan stole på måneder senere, når sagen kommer for retten, og ingen husker detaljerne.

Hvad De skal spørge en leverandør om

Hvis De evaluerer et hvilket som helst værktøj med en AI-assistent i, adskiller fire spørgsmål de alvorlige fra resten.

Kan De klikke på et hvilket som helst udsagn og lande på kildeposten? Ikke et dokument, ikke en side, posten. Bed dem gøre det live, på en påstand, De vælger, i en tråd, De udpeger.

Hvad logges? Hver handling, assistenten foretog, og hvert resultat, den modtog, bør skrives et sted, De kontrollerer og kan læse. Hvis loggen ligger hos leverandøren, er det et andet produkt med en anden risikoprofil.

Hvor går dataene hen? Hvis svaret involverer en tredjeparts inferensudbyder, er det en beslutning, Deres tjeneste skal træffe bevidst, frem for at opdage den i en sikkerhedsgennemgang efter udrulningen.

Hvad gør den, når den ikke ved det? Stil et spørgsmål, dataene ikke kan besvare, og se. Et system, der frembringer et sikkert, velskrevet og helt ubelagt afsnit, har fortalt Dem alt, De behøver at vide om, hvordan det vil opføre sig i en virkelig sag klokken to om natten.

Den ærlige position

Uafhængige kriminaltekniske eksperter har været konsekvente på dette: AI-output skal verificeres mod de oprindelige data, før der kan støttes ret på det. Det er ikke en begrænsning, der skal konstrueres væk, det er det korrekte forhold mellem et automatiseret system og en bevisproces.

Værdien af at sætte en model ind i kriminalteknisk arbejde er ikke, at den erstatter analytikerens skøn. Den er, at den gør det muligt at udøve det skøn i en mængde, hvor det ellers stille holder op med at ske. En analytiker, der tidligere kunne læse fem procent af en enhed og nu læser den relevante del af det hele, med hver konklusion kontrollerbar med ét klik, laver bedre kriminalteknisk arbejde, ikke mere automatiseret kriminalteknisk arbejde.

Det er den eneste påstand, der er værd at fremsætte, og det er den, vi hellere vil holdes fast på.