Medienvolumen in Kinderschutzfällen: was Triage kann und was nicht

Über dieses Thema aus der Position eines Herstellers zu schreiben, ist schwierig, und es gibt eine Fassung, die überhaupt nicht geschrieben werden sollte: die Fassung, die das Leiden in diesen Fällen als Gelegenheit für Werbung behandelt oder die eine Erkennungsgenauigkeit behauptet, die niemand belegen kann.

Dieser Beitrag ist deshalb absichtlich eng gefasst. Er handelt von der Arithmetik der Medienprüfung, davon, was automatisierte Triage wirklich ändert, und davon, was sie nicht ändert.

Die Arithmetik

Ein einzelnes sichergestelltes Gerät enthält häufig Zehntausende von Bildern und Videodateien. Ein Fall mit mehreren Geräten erreicht sechsstellige Zahlen, ohne ungewöhnlich zu sein. Ermittlungen, an denen Verbreitungsnetze beteiligt sind, können wesentlich mehr umfassen.

Die menschliche Prüfung dieses Volumens ist notwendig langsam. Sie ist langsam, weil sie Aufmerksamkeit verlangt, weil sie Urteil über Material verlangt, das an den Rändern oft mehrdeutig ist, und weil die Menschen, die sie leisten, sie nicht über lange Zeiträume durchhalten können. Gut geführte Dienststellen begrenzen die Expositionszeit bewusst. Diese Grenze ist keine Ineffizienz, sie ist eine Maßnahme des Arbeitsschutzes, und jede Rechnung, die die Stunden der Prüfenden als dehnbar behandelt, ist falsch, bevor sie beginnt.

Die Einschränkung ist also nicht das Volumen für sich. Es ist das Volumen gegenüber einem Angebot an Prüfstunden, das bewusst und zu Recht gedeckelt ist.

Was Automatisierung tatsächlich ändert

Die inhaltsbasierte Indexierung von Medien erlaubt es, die Sammlung danach zu durchsuchen, was sie enthält, und nicht nur nach Dateiname, Zeitstempel oder Hashwert. Das ändert drei Dinge konkret.

Reihenfolge. Eine prüfende Person, die Material in einer vom Inhalt bestimmten Reihenfolge durcharbeitet, findet das, worauf es ankommt, mit größerer Wahrscheinlichkeit früh. In Fällen, in denen das schnelle Erkennen eines Opfers ändert, was als Nächstes geschieht, ist die Reihenfolge kein Effizienzgewinn, sie ist ein Ergebnis.

Aussortierung. Große Teile einer Mediensammlung auf jedem Gerät sind Hintergrundbilder, Anwendungscaches, Memes, Bildschirmfotos und heruntergeladene Bestände. Sie aus der Prüfwarteschlange zu nehmen, ist risikoarm, und es ist ein erheblicher Teil des Volumens.

Verknüpfung. Anhänge, die an die Unterhaltungen zurückgebunden werden, die sie getragen haben, und eine Deduplizierung gegen Material, das bereits gesehen wurde, machen aus einem flachen Haufen von Dateien etwas mit Struktur. Zu wissen, in welchem Thread ein Bild angekommen ist, ist häufig aufschlussreicher als das Bild.

Zwei dieser drei verlangen von der Software überhaupt kein Urteil über den Inhalt des Materials, und das ist festzuhalten, weil sie den größten Teil des praktischen Nutzens tragen.

Was Automatisierung nicht ändert

Sie entfernt den Analysten nicht aus der Schleife, und sie senkt nicht den Maßstab dessen, was ein Gericht verlangt.

Jedes System, das Material klassifiziert, arbeitet in einem Bereich, in dem die Kategorien rechtlich definiert, von der Rechtsordnung abhängig und an den Grenzen umstritten sind. Die Altersschätzung aus einem Bild ist in dem Bereich nicht verlässlich, auf den es am meisten ankommt. Der Kontext bestimmt häufig den Charakter eines Bildes auf eine Weise, die nichts in den Pixeln anzeigt.

Ein Hersteller, der für diese Aufgabe eine Genauigkeitszahl behauptet, stellt eine Behauptung auf, die einem Kreuzverhör nicht standhält, weil der Vergleichsmaßstab, aus dem sie stammt, nicht die Grundgesamtheit eines echten Falls ist und die Kategorien, die er verwendet hat, nicht die sind, die das Gesetz verwendet.

Die ehrliche Einordnung lautet also, dass automatisierte Triage die Reihenfolge und die Größe der Prüfwarteschlange ändert. Die Feststellung, was Material ist, bleibt ein menschliches und ein rechtliches Urteil, und die Aufgabe der Software ist, die Arbeit des Menschen möglich zu machen, und nicht, ihr vorzugreifen.

Hash-Abgleich und seine Grenzen

Der Hash-Abgleich bekannter Dateien bleibt das verlässlichste Werkzeug für diese Arbeit und das am wenigsten besprochene, wahrscheinlich weil er schmucklos ist. Wo Material zu einem bekannten Bestand passt, ist die Identifizierung exakt und auf eine Weise verteidigbar, wie es kein gelerntes System ist.

Seine Einschränkung ist ebenso klar. Er findet nur, was schon einmal gesehen und katalogisiert wurde. Neues Material, neu kodiertes Material und alles, was lokal erzeugt wurde, passt nicht, und lokal erzeugtes Material ist oft das dringendste, weil es auf eine fortgesetzte Schädigung hinweisen kann.

Das ist die Lücke, die der inhaltsbasierte Abruf schließt, und es lohnt sich, bei der Behauptung genau zu sein. Er identifiziert Material nicht als illegal. Er fördert Material zutage, das einer Beschreibung ähnelt, sodass ein Mensch es früher ansieht, als er es sonst getan hätte.

Was Sie einen Hersteller fragen sollten

Wenn Sie irgendein Werkzeug bewerten, das eine Fähigkeit zur Medientriage behauptet, sind die nützlichen Fragen eng.

Fragen Sie, was mit dem Material geschieht: ob irgendetwas davon zu irgendeinem Zeitpunkt Ihre Infrastruktur verlässt, auch zur Indexierung. Bei dieser Fallkategorie ist eine Antwort, die einen Dienst eines Dritten einschließt, gewöhnlich das Ende des Gesprächs, und das sollte sie sein.

Fragen Sie, was das System zu bestimmen behauptet und was es lediglich einordnet. Das ist verschieden, und Hersteller verwischen beides.

Fragen Sie, was die prüfende Person sieht. Ein Werkzeug, das eine Entscheidung vorlegt, lädt dazu ein, sie zu bestätigen. Ein Werkzeug, das geordnetes Material vorlegt und die prüfende Person entscheiden lässt, macht dieselbe Arithmetik, ohne sich die Autorität der prüfenden Person zu leihen.

Fragen Sie nach der Exposition. Ob die Oberfläche Material so darstellen kann, dass unnötige Exposition sinkt und sie doch für das zu fällende Urteil ausreicht, ist eine echte Produktfrage, und eine, die Dienststellen mehr beschäftigt, als die meisten Hersteller erwarten.

Die Zusage

VERA indexiert Medien, damit sie nach ihrem Inhalt durchsucht werden können, und der Assistent kann gebeten werden, nach bestimmten Elementen zu suchen. All das läuft auf der eigenen Infrastruktur des Kunden, offline, und kein Material verlässt zu irgendeinem Zeitpunkt das Netzwerk.

Wir veröffentlichen keine Zahl zur Erkennungsgenauigkeit, und wir werden es nicht tun, weil wir eine solche vor Ihnen an Ihren eigenen Daten nicht belegen können. Wenn Ihre Bewertung das verlangt, sagen wir das lieber am Anfang, als in der Mitte ertappt zu werden.