Medievolum i saker om vern av barn: hva grovsortering kan og ikke kan gjøre

Dette er et vanskelig emne å skrive om fra en leverandørs posisjon, og det finnes en versjon av det som ikke bør skrives i det hele tatt: versjonen som behandler lidelsen i disse sakene som en markedsføringsmulighet, eller som påstår en deteksjonsnøyaktighet ingen kan belegge.

Så denne teksten er bevisst smal. Den handler om regnestykket i gjennomgang av medier, hva automatisert grovsortering faktisk endrer, og hva den ikke endrer.

Regnestykket

En enkelt beslaglagt enhet holder vanligvis titusenvis av bilder og videofiler. En sak med flere enheter når sekssifrede tall uten å være uvanlig. Etterforskninger som involverer distribusjonsnettverk, kan omfatte vesentlig mer.

Menneskelig gjennomgang av det volumet er langsom av nødvendighet. Den er langsom fordi den krever oppmerksomhet, fordi den krever skjønn om materiale som ofte er tvetydig i ytterkantene, og fordi menneskene som gjør det, ikke kan holde det gående over lange perioder. Veldrevne enheter begrenser eksponeringstiden med vilje. Den grensen er ikke ineffektivitet, den er et arbeidsmiljøtiltak, og enhver beregning som behandler gjennomgangstimer som elastiske, er feil før den begynner.

Så begrensningen er ikke volumet i seg selv. Den er volumet holdt opp mot en tilgang på gjennomgangstimer som med vilje, og med rette, har et tak.

Hva automatisering faktisk endrer

Innholdsbasert indeksering av medier gjør at samlingen kan søkes etter det den inneholder, heller enn bare etter filnavn, tidsstempel eller hash. Det endrer tre ting konkret.

Rekkefølge. Den som gjennomgår materialet i en rekkefølge informert av innhold, har større sjanse for å finne det som betyr noe, tidlig. I saker der det å identifisere et offer raskt endrer det som skjer videre, er rekkefølge ikke en effektivitetsgevinst, den er et utfall.

Eliminering. Store deler av en mediesamling på enhver enhet er bakgrunnsbilder, applikasjonshurtiglagre, memer, skjermbilder og nedlastede ressurser. Å ta dem ut av gjennomgangskøen er lav risiko, og det er en vesentlig andel av volumet.

Kobling. Vedlegg som knyttes tilbake til samtalene som bar dem, og deduplisering mot materiale som allerede er sett, gjør en flat haug av filer til noe med struktur. Å vite hvilken tråd et bilde kom inn i, er ofte mer opplysende enn bildet.

To av de tre krever ikke at programvaren feller noen dom om innholdet i materialet i det hele tatt, noe som er verdt å merke, fordi de bærer det meste av den praktiske nytten.

Hva automatisering ikke endrer

Den fjerner ikke analytikeren fra sløyfen, og den senker ikke standarden for det en domstol krever.

Ethvert system som klassifiserer materiale, arbeider i et felt der kategoriene er rettslig definert, spesifikke for jurisdiksjonen og omstridt i grensene. Aldersestimering ut fra et bilde er ikke pålitelig i intervallet som betyr mest. Kontekst avgjør ofte karakteren av et bilde på måter ingenting i pikslene viser.

En leverandør som oppgir et nøyaktighetstall for denne oppgaven, fremsetter en påstand som ikke holder i krysseksaminasjon, fordi referansemålingen den kom fra, ikke er populasjonen i en virkelig sak, og kategoriene den brukte, ikke er dem loven bruker.

Så den ærlige rammen er at automatisert grovsortering endrer rekkefølgen og størrelsen på gjennomgangskøen. Avgjørelsen av hva materialet er, forblir en menneskelig og en rettslig vurdering, og programvarens oppgave er å gjøre menneskets arbeid mulig heller enn å foregripe det.

Hash-sammenligning, og grensene for den

Hash-sammenligning mot kjente filer er fortsatt det mest pålitelige verktøyet for dette arbeidet, og det minst omtalte, trolig fordi det er uten glans. Der materiale samsvarer med et kjent sett, er identifikasjonen eksakt og forsvarlig på en måte intet innlært system er.

Begrensningen er like klar. Den finner bare det som er sett før, og katalogisert. Nytt materiale, omkodet materiale og alt som er produsert lokalt, samsvarer ikke, og lokalt produsert materiale er ofte det mest presserende, fordi det kan tyde på pågående skade.

Det er gapet innholdsbasert gjenfinning fyller, og det er verdt å være presis om påstanden. Den identifiserer ikke materiale som ulovlig. Den løfter frem materiale som ligner en beskrivelse, slik at et menneske ser på det tidligere enn vedkommende ellers ville.

Hva De spør en leverandør om

Hvis De vurderer et verktøy som hevder å kunne grovsortere medier, er de nyttige spørsmålene smale.

Spør hva som skjer med materialet: om noe av det forlater infrastrukturen Deres på noe tidspunkt, også for indeksering. For denne typen sak er et svar som involverer en tredjepartstjeneste, vanligvis slutten på samtalen, og det bør det være.

Spør hva systemet hevder å avgjøre, og hva det bare rangerer. Det er to forskjellige ting, og leverandører visker ut skillet.

Spør hva den som gjennomgår, ser. Et verktøy som legger frem en avgjørelse, inviterer den som gjennomgår, til å bekrefte den. Et verktøy som legger frem ordnet materiale og lar den som gjennomgår, avgjøre, gjør det samme regnestykket uten å låne vedkommendes myndighet.

Spør om eksponering. Om grensesnittet kan presentere materiale på en måte som reduserer unødig eksponering og likevel er tilstrekkelig for vurderingen som skal gjøres, er et reelt produktspørsmål, og ett som enheter bryr seg mer om enn de fleste leverandører venter.

Forpliktelsen

VERA indekserer medier slik at de kan søkes etter innhold, og assistenten kan bes om å se etter bestemte elementer. Alt kjører på kundens egen infrastruktur, frakoblet, og intet materiale forlater nettverket på noe tidspunkt.

Vi offentliggjør ikke et tall for deteksjonsnøyaktighet, og det kommer vi ikke til å gjøre, fordi vi ikke kan belegge et foran Dem, på Deres egne data. Hvis det er det evalueringen Deres krever, vil vi heller si det i starten enn å bli avslørt underveis.