Medievolumen i sager om børnebeskyttelse: hvad triage kan og ikke kan

Dette er et vanskeligt emne at skrive om fra en leverandørs position, og der findes en udgave af det, der slet ikke bør skrives: den udgave, der behandler lidelsen i disse sager som en markedsføringsmulighed, eller der hævder en detektionsnøjagtighed, ingen kan belægge.

Så dette stykke er bevidst smalt. Det handler om aritmetikken i mediegennemgang, hvad automatiseret triage reelt ændrer, og hvad den ikke ændrer.

Aritmetikken

En enkelt beslaglagt enhed rummer almindeligvis titusindvis af billeder og videofiler. En sag med flere enheder når sekscifret uden at være usædvanlig. Efterforskninger, der involverer distributionsnet, kan involvere væsentligt mere.

Menneskelig gennemgang af det volumen er langsom af nødvendighed. Den er langsom, fordi den kræver opmærksomhed, fordi den kræver skøn om materiale, der ofte er tvetydigt i kanterne, og fordi de mennesker, der gør det, ikke kan holde det ud i lange perioder. Velfungerende enheder begrænser eksponeringstiden bevidst. Den grænse er ikke ineffektivitet, den er en arbejdsmiljøkontrol, og enhver beregning, der behandler gennemgangstimer som elastiske, er forkert, før den begynder.

Så begrænsningen er ikke volumen i sig selv. Det er volumen over for et udbud af gennemgangstimer, der bevidst og korrekt er loftsat.

Hvad automatisering faktisk ændrer

Indholdsbaseret indeksering af medier gør det muligt at søge i samlingen efter det, den indeholder, frem for kun efter filnavn, tidsstempel eller hash. Det ændrer tre ting konkret.

Rækkefølge. En gransker, der arbejder sig gennem materiale i en rækkefølge informeret af indholdet, har større sandsynlighed for at finde det, der betyder noget, tidligt. I sager hvor det at identificere et offer hurtigt ændrer, hvad der sker derefter, er rækkefølge ikke en effektivitetsgevinst, det er et udfald.

Frasortering. Store dele af en mediesamling på enhver enhed er baggrundsbilleder, applikations-caches, memes, skærmbilleder og downloadede aktiver. At fjerne dem fra gennemgangskøen er lav risiko, og det er en væsentlig brøkdel af volumen.

Sammenknytning. Vedhæftninger knyttet tilbage til de samtaler, der bar dem, og deduplikering mod materiale, der allerede er set, gør en flad bunke filer til noget med struktur. At vide, hvilken tråd et billede ankom i, er ofte mere oplysende end billedet.

To af de tre kræver slet ikke, at softwaren træffer noget skøn om materialets indhold, hvilket er værd at bemærke, fordi de bærer det meste af den praktiske nytte.

Hvad automatisering ikke ændrer

Den fjerner ikke analytikeren fra løkken, og den sænker ikke den standard, en domstol kræver.

Ethvert system, der klassificerer materiale, arbejder i et område, hvor kategorierne er retligt definerede, specifikke for jurisdiktionen og omstridte ved grænserne. Aldersvurdering ud fra et billede er ikke pålidelig i det interval, der betyder mest. Sammenhængen afgør ofte et billedes karakter på måder, intet i pixlerne angiver.

En leverandør, der hævder et nøjagtighedstal for denne opgave, fremsætter en påstand, der ikke kan holde i et krydsforhør, fordi det sammenligningsgrundlag, den kom fra, ikke er populationen i en virkelig sag, og de kategorier, den brugte, ikke er dem, loven bruger.

Så den ærlige ramme er, at automatiseret triage ændrer rækkefølgen og størrelsen af gennemgangskøen. Afgørelsen af, hvad materiale er, forbliver et menneskeligt og et retligt skøn, og softwarens opgave er at gøre menneskets arbejde muligt frem for at foregribe det.

Hash-matchning, og dens grænser

Hash-matchning af kendte filer er fortsat det mest pålidelige værktøj til dette arbejde og det mindst omtalte, formodentlig fordi det er lidet glamourøst. Hvor materiale matcher et kendt sæt, er identifikationen nøjagtig og forsvarlig på en måde, intet indlært system er.

Dens begrænsning er lige så klar. Den finder kun det, der er set før og katalogiseret. Nyt materiale, omkodet materiale og alt, der er fremstillet lokalt, vil ikke matche, og lokalt fremstillet materiale er ofte det mest presserende, fordi det kan tyde på igangværende skade.

Det er det gab, indholdsbaseret genfinding adresserer, og det er værd at være præcis om påstanden. Den identificerer ikke materiale som ulovligt. Den bringer materiale frem, der ligner en beskrivelse, så et menneske ser på det tidligere, end vedkommende ellers ville.

Hvad De skal spørge en leverandør om

Hvis De evaluerer et hvilket som helst værktøj, der hævder evne til medietriage, er de nyttige spørgsmål smalle.

Spørg, hvad der sker med materialet: om noget af det forlader Deres infrastruktur på noget tidspunkt, herunder til indeksering. For denne kategori af sag er et svar, der involverer en tredjepartstjeneste, som regel afslutningen på samtalen, og det bør det være.

Spørg, hvad systemet hævder at afgøre, og hvad det blot rangerer. Det er to forskellige ting, og leverandører udvisker dem.

Spørg, hvad granskeren ser. Et værktøj, der præsenterer en afgørelse, inviterer granskeren til at bekræfte den. Et værktøj, der præsenterer ordnet materiale og lader granskeren afgøre det, laver den samme aritmetik uden at låne granskerens myndighed.

Spørg om eksponering. Om grænsefladen kan præsentere materiale på en måde, der mindsker unødvendig eksponering og stadig er tilstrækkelig til det skøn, der skal træffes, er et reelt produktspørgsmål, og et, enheder kerer sig mere om, end de fleste leverandører forventer.

Forpligtelsen

VERA indekserer medier, så de kan søges efter indhold, og assistenten kan blive bedt om at lede efter bestemte elementer. Det hele kører på kundens egen infrastruktur, offline, og intet materiale forlader netværket på noget tidspunkt.

Vi offentliggør ikke et tal for detektionsnøjagtighed, og det vil vi ikke, fordi vi ikke kan belægge et foran Dem på Deres egne data. Hvis det er det, Deres evaluering kræver, vil vi hellere sige det i begyndelsen end blive afsløret undervejs.