Objem médií v případech ochrany dětí: co třídění může a co nemůže

O tomto tématu je z pozice dodavatele obtížné psát a existuje verze, která by se neměla napsat vůbec: verze, která bere utrpení v těchto případech jako příležitost k marketingu, nebo která tvrdí přesnost detekce, kterou nikdo nedokáže doložit.

Tento text je proto záměrně úzký. Je o aritmetice přezkumu médií, o tom, co automatizované třídění skutečně mění, a o tom, co nemění.

Aritmetika

Jedno zajištěné zařízení běžně drží desítky tisíc obrázků a videosouborů. Případ s několika zařízeními dosáhne šestimístných čísel, aniž by byl neobvyklý. Vyšetřování zahrnující distribuční sítě mohou zahrnovat podstatně víc.

Lidský přezkum tohoto objemu je nutně pomalý. Je pomalý, protože vyžaduje pozornost, protože vyžaduje úsudek o materiálu, který je na okrajích často nejednoznačný, a protože lidé, kteří ho dělají, ho nedokážou udržet po dlouhou dobu. Dobře vedené útvary záměrně omezují dobu expozice. Toto omezení není neefektivita, je to opatření ochrany zdraví při práci a jakýkoli výpočet, který bere hodiny přezkumu jako pružné, je chybný, ještě než začne.

Omezením tedy není objem sám. Je to objem proti nabídce hodin přezkumu, která je záměrně a správně omezená.

Co automatizace skutečně mění

Indexace médií podle obsahu umožňuje prohledávat sbírku podle toho, co obsahuje, ne jen podle názvu souboru, časové značky nebo hashe. To konkrétně mění tři věci.

Pořadí. Přezkumník, který prochází materiál v pořadí informovaném obsahem, spíš najde to, na čem záleží, brzy. V případech, kde rychlé určení oběti mění to, co se stane dál, není pořadí ziskem efektivity, je to výsledek.

Vyřazení. Velké části mediální sbírky na jakémkoli zařízení jsou tapety, mezipaměti aplikací, memy, snímky obrazovky a stažené podklady. Odstranit je z fronty přezkumu je nízké riziko a je to podstatný zlomek objemu.

Propojení. Přílohy navázané zpět na konverzace, které je nesly, a deduplikace vůči materiálu, který už byl viděn, promění plochou hromadu souborů v něco se strukturou. Vědět, ve kterém vlákně obrázek přišel, je často informativnější než obrázek sám.

Dvě z těchto tří nevyžadují, aby software o obsahu materiálu vynesl jakýkoli úsudek, což stojí za poznámku, protože nesou většinu praktického přínosu.

Co automatizace nemění

Neodstraňuje analytika ze smyčky a nesnižuje standard toho, co vyžaduje soud.

Jakýkoli systém, který materiál klasifikuje, pracuje v oblasti, kde jsou kategorie právně vymezené, specifické pro jurisdikci a na hranicích sporné. Odhad věku z obrázku není spolehlivý v rozsahu, na kterém záleží nejvíc. Kontext často určuje povahu obrázku způsoby, které v pixelech nic neukazuje.

Dodavatel, který pro tuto úlohu tvrdí číslo přesnosti, činí tvrzení, které nepřežije křížový výslech, protože benchmark, ze kterého pochází, není populace skutečného případu a kategorie, které použil, nejsou ty, které používá zákon.

Poctivé vymezení tedy je, že automatizované třídění mění pořadí a velikost fronty přezkumu. Určení toho, čím materiál je, zůstává lidským a právním úsudkem a úkolem softwaru je učinit práci člověka možnou, ne jí předejít.

Shoda podle hashe a její meze

Porovnání hashe známého souboru zůstává pro tuto práci nejspolehlivějším nástrojem a nejméně se o něm mluví, pravděpodobně proto, že je bez lesku. Kde se materiál shoduje se známou sadou, je určení přesné a obhajitelné způsobem, jakým žádný naučený systém není.

Jeho omezení je stejně jasné. Najde jen to, co už bylo viděno a katalogizováno. Nový materiál, znovu zakódovaný materiál a cokoli vytvořeného na místě se neshodne a materiál vytvořený na místě je často nejnaléhavější, protože může ukazovat na pokračující újmu.

Tuto mezeru řeší vyhledání podle obsahu a stojí za to být u tvrzení přesný. Neurčuje materiál jako nezákonný. Vynese materiál, který se podobá popisu, aby se na něj člověk podíval dřív, než by se jinak podíval.

Na co se zeptat dodavatele

Pokud posuzujete jakýkoli nástroj, který tvrdí schopnost třídění médií, užitečné otázky jsou úzké.

Zeptejte se, co se s materiálem stane: zda kterákoli jeho část v kterémkoli okamžiku opustí vaši infrastrukturu, včetně indexace. U této kategorie případů je odpověď zahrnující službu třetí strany obvykle konec rozhovoru a má jím být.

Zeptejte se, co systém tvrdí, že určuje, a co pouze řadí. To je rozdíl a dodavatelé ho rozmazávají.

Zeptejte se, co přezkumník vidí. Nástroj, který předkládá rozhodnutí, zve přezkumníka, aby ho potvrdil. Nástroj, který předkládá seřazený materiál a nechá přezkumníka rozhodnout, dělá tutéž aritmetiku, aniž si vypůjčuje pravomoc přezkumníka.

Zeptejte se na expozici. Zda rozhraní dokáže předložit materiál způsobem, který snižuje zbytečnou expozici a přitom zůstává dostatečný pro vynášený úsudek, je skutečná produktová otázka a taková, na které útvarům záleží víc, než většina dodavatelů čeká.

Závazek

VERA indexuje média tak, aby je bylo možné hledat podle obsahu, a asistenta lze požádat, aby hledal konkrétní prvky. Vše běží na vlastní infrastruktuře zákazníka, offline, a žádný materiál v žádném okamžiku neopustí síť.

Nezveřejňujeme číslo přesnosti detekce a nezveřejníme ho, protože ho před vámi na vašich vlastních datech nedokážeme doložit. Pokud to vaše posouzení vyžaduje, raději to řekneme na začátku než uprostřed.