Mediavolume in zaken rond de bescherming van kinderen: wat triage wel en niet kan

Dit is een moeilijk onderwerp om vanuit de positie van een leverancier over te schrijven, en er is een versie ervan die helemaal niet geschreven hoort te worden: de versie die het leed in deze zaken als een marketingkans behandelt, of die een detectienauwkeurigheid beweert die niemand kan onderbouwen.

Dit stuk is dus bewust smal. Het gaat over de rekenkunde van mediabeoordeling, wat geautomatiseerde triage werkelijk verandert, en wat ze niet verandert.

De rekenkunde

Eén in beslag genomen apparaat bevat doorgaans tienduizenden afbeeldingen en videobestanden. Een zaak met verscheidene apparaten bereikt zes cijfers zonder ongewoon te zijn. Onderzoeken naar distributienetwerken kunnen er aanzienlijk meer omvatten.

Menselijke beoordeling van dat volume is noodzakelijkerwijs traag. Ze is traag omdat ze aandacht vereist, omdat ze een oordeel vereist over materiaal dat aan de randen vaak dubbelzinnig is, en omdat de mensen die het doen het niet lang kunnen volhouden. Goed geleide eenheden beperken de blootstellingstijd bewust. Die grens is geen inefficiëntie, ze is een maatregel voor de arbeidsgezondheid, en elke berekening die de uren van beoordelaars als elastisch behandelt, is onjuist voordat ze begint.

De beperking is dus niet het volume op zich. Ze is het volume tegenover een aanbod van beoordelingsuren dat bewust en terecht is begrensd.

Wat automatisering werkelijk verandert

Indexering van media op inhoud maakt het mogelijk de verzameling te doorzoeken op wat ze bevat en niet alleen op bestandsnaam, tijdstempel of hash. Dat verandert drie dingen concreet.

Volgorde. Een beoordelaar die materiaal doorwerkt in een volgorde die door de inhoud is geïnformeerd, heeft meer kans vroeg te vinden wat ertoe doet. In zaken waarin het snel identificeren van een slachtoffer verandert wat er daarna gebeurt, is volgorde geen efficiëntiewinst, ze is een uitkomst.

Uitsluiting. Grote delen van een mediaverzameling op elk apparaat zijn achtergronden, applicatiecaches, memes, schermafbeeldingen en gedownloade bestanden. Ze uit de beoordelingswachtrij halen is laag risico, en het is een aanzienlijk deel van het volume.

Koppeling. Bijlagen teruggekoppeld aan de gesprekken die ze droegen, en ontdubbeling tegen materiaal dat al is gezien, maken van een platte stapel bestanden iets met structuur. Weten in welke thread een afbeelding aankwam, is vaak informatiever dan de afbeelding.

Twee van die drie vereisen niet dat de software enig oordeel velt over de inhoud van het materiaal, en dat is het vermelden waard, omdat zij het grootste deel van het praktische nut dragen.

Wat automatisering niet verandert

Ze haalt de analist niet uit de lus, en ze verlaagt niet de norm van wat een rechtbank vereist.

Elk systeem dat materiaal classificeert, werkt in een domein waarin de categorieën juridisch zijn gedefinieerd, specifiek zijn voor het rechtsgebied, en aan de grenzen worden betwist. Leeftijdsschatting uit een afbeelding is niet betrouwbaar in het bereik dat er het meest toe doet. De context bepaalt vaak het karakter van een afbeelding op manieren die niets in de pixels aangeeft.

Een leverancier die voor deze taak een nauwkeurigheidscijfer beweert, doet een uitspraak die een kruisverhoor niet overleeft, omdat de benchmark waaruit het komt niet de populatie van een echte zaak is, en de categorieën die hij gebruikte niet die van de wet zijn.

De eerlijke formulering is dus dat geautomatiseerde triage de volgorde en de omvang van de beoordelingswachtrij verandert. De vaststelling van wat het materiaal is, blijft een menselijk en een juridisch oordeel, en het werk van de software is het werk van de mens mogelijk maken in plaats van het voor te zijn.

Hashvergelijking, en haar grenzen

Hashvergelijking met bekende bestanden blijft het betrouwbaarste hulpmiddel voor dit werk en het minst besproken, waarschijnlijk omdat het weinig glans heeft. Waar materiaal overeenkomt met een bekende verzameling, is de identificatie exact en verdedigbaar op een manier waarop geen geleerd systeem dat is.

Haar beperking is even duidelijk. Ze vindt alleen wat eerder is gezien en gecatalogiseerd. Nieuw materiaal, opnieuw gecodeerd materiaal en alles wat lokaal is geproduceerd, zal niet overeenkomen, en lokaal geproduceerd materiaal is vaak het urgentst, omdat het op voortdurende schade kan wijzen.

Dat is de kloof die ophalen op inhoud adresseert, en het is de moeite waard precies te zijn over de uitspraak. Het identificeert materiaal niet als illegaal. Het brengt materiaal naar boven dat op een beschrijving lijkt, zodat een mens er eerder naar kijkt dan anders het geval zou zijn.

Wat u een leverancier vraagt

Als u een hulpmiddel beoordeelt dat capaciteit voor mediatriage beweert, zijn de nuttige vragen smal.

Vraag wat er met het materiaal gebeurt: of iets ervan op enig moment uw infrastructuur verlaat, ook voor indexering. Voor deze categorie zaken is een antwoord dat een dienst van een derde noemt doorgaans het einde van het gesprek, en dat hoort het te zijn.

Vraag wat het systeem beweert vast te stellen, en wat het slechts rangschikt. Dat is verschillend, en leveranciers vervagen het onderscheid.

Vraag wat de beoordelaar ziet. Een hulpmiddel dat een beslissing voorlegt, nodigt de beoordelaar uit die te bevestigen. Een hulpmiddel dat geordend materiaal voorlegt en de beoordelaar laat beslissen, doet dezelfde rekenkunde zonder het gezag van de beoordelaar te lenen.

Vraag naar blootstelling. Of de interface materiaal kan presenteren op een manier die onnodige blootstelling vermindert en toch toereikend blijft voor het oordeel dat wordt geveld, is een echte productvraag, en een waar eenheden meer om geven dan de meeste leveranciers verwachten.

De verbintenis

VERA indexeert media zodat erop kan worden gezocht op inhoud, en de assistent kan worden gevraagd naar specifieke elementen te zoeken. Alles draait op de eigen infrastructuur van de klant, offline, en geen enkel materiaal verlaat op enig moment het netwerk.

Wij publiceren geen cijfer voor detectienauwkeurigheid, en dat zullen wij niet doen, omdat wij er geen kunnen onderbouwen voor u, op uw eigen gegevens. Als dat is wat uw evaluatie vereist, zeggen wij dat liever aan het begin dan dat het halverwege uitkomt.