Volumul de media în cazurile de protecție a copiilor: ce poate face triajul și ce nu

Acesta este un subiect dificil de scris din poziția unui furnizor, și există o versiune a lui care nu ar trebui scrisă deloc: versiunea care tratează suferința din aceste cazuri ca pe o ocazie de marketing, sau care revendică o acuratețe a detecției pe care nimeni nu o poate dovedi.

Așadar textul acesta este înadins îngust. Este despre aritmetica revizuirii de media, despre ce schimbă cu adevărat triajul automat și despre ce nu schimbă.

Aritmetica

Un singur dispozitiv sechestrat ține în mod obișnuit zeci de mii de imagini și fișiere video. Un caz cu mai multe dispozitive ajunge la șase cifre fără să fie neobișnuit. Investigațiile care implică rețele de distribuție pot implica substanțial mai mult.

Revizuirea umană a acelui volum este lentă prin necesitate. Este lentă pentru că cere atenție, pentru că cere judecată asupra unui material care este adesea ambiguu la margini, și pentru că oamenii care o fac nu o pot susține perioade lungi. Unitățile bine conduse limitează deliberat timpul de expunere. Limita aceea nu este ineficiență, este un control de sănătate ocupațională, și orice calcul care tratează orele revizorului ca elastice este greșit înainte să înceapă.

Așadar constrângerea nu este volumul prin el însuși. Este volumul față de o rezervă de ore de revizuire care este plafonată deliberat și corect.

Ce schimbă de fapt automatizarea

Indexarea media după conținut permite colecției să fie căutată după ceea ce conține, nu numai după numele fișierului, marcajul temporal sau hash. Aceasta schimbă trei lucruri, concret.

Ordonarea. Un revizor care parcurge materialul într-o ordine informată de conținut are mai multe șanse să găsească devreme ceea ce contează. În cazurile în care identificarea rapidă a unei victime schimbă ceea ce se întâmplă apoi, ordonarea nu este un câștig de eficiență, este un rezultat.

Eliminarea. Părți mari dintr-o colecție media de pe orice dispozitiv sunt imagini de fundal, cache-uri de aplicații, meme-uri, capturi de ecran și resurse descărcate. A le scoate din coada de revizuire este un risc mic, și este o fracțiune substanțială din volum.

Legarea. Atașamentele legate înapoi de conversațiile care le-au purtat, și deduplicarea față de materialul deja văzut, transformă un morman plat de fișiere în ceva cu structură. A ști în ce fir a sosit o imagine este frecvent mai informativ decât imaginea.

Două dintre aceste trei nu cer software-ului să facă nicio judecată despre conținutul materialului, ceea ce merită notat, pentru că ele poartă cea mai mare parte a beneficiului practic.

Ce nu schimbă automatizarea

Nu îl scoate pe analist din buclă, și nu coboară standardul pe care îl cere o instanță.

Orice sistem care clasifică materialul operează într-un domeniu în care categoriile sunt definite legal, specifice jurisdicției și contestate la limite. Estimarea vârstei dintr-o imagine nu este fiabilă în intervalul care contează cel mai mult. Contextul determină frecvent caracterul unei imagini în feluri pe care nimic din pixeli nu le indică.

Un furnizor care revendică o cifră de acuratețe pentru această sarcină face o afirmație care nu poate rezista unui interogatoriu încrucișat, pentru că reperul din care a venit nu este populația unui caz real, iar categoriile pe care le-a folosit nu sunt cele pe care le folosește legea.

Așadar formularea onestă este că triajul automat schimbă ordinea și mărimea cozii de revizuire. Determinarea a ceea ce este materialul rămâne o judecată umană și juridică, iar treaba software-ului este să facă posibilă munca omului, nu să i-o ia înainte.

Potrivirea după hash, și limitele ei

Potrivirea după hash a fișierelor cunoscute rămâne instrumentul cel mai fiabil pentru această muncă și cel mai puțin discutat, probabil pentru că nu are nimic spectaculos. Acolo unde materialul corespunde unui set cunoscut, identificarea este exactă și defensabilă într-un fel în care niciun sistem învățat nu este.

Limita ei este la fel de clară. Găsește numai ceea ce a fost văzut înainte și catalogat. Materialul nou, materialul recodat și orice a fost produs local nu vor corespunde, iar materialul produs local este adesea cel mai urgent, pentru că poate indica un prejudiciu în curs.

Acesta este golul pe care îl adresează regăsirea după conținut, și merită să fim preciși asupra afirmației. Nu identifică materialul ca ilegal. Aduce la suprafață material care seamănă cu o descriere, astfel încât un om să îl privească mai devreme decât ar fi făcut-o altfel.

Ce să întrebați un furnizor

Dacă evaluați orice instrument care revendică o capacitate de triaj media, întrebările utile sunt înguste.

Întrebați ce se întâmplă cu materialul: dacă vreo parte din el părăsește infrastructura dumneavoastră în vreun moment, inclusiv pentru indexare. Pentru această categorie de caz, un răspuns care implică un serviciu terț este de obicei sfârșitul conversației, și așa trebuie să fie.

Întrebați ce pretinde sistemul că determină, și ce doar ordonează. Sunt lucruri diferite, iar furnizorii le amestecă.

Întrebați ce vede revizorul. Un instrument care prezintă o decizie îl invită pe revizor să o confirme. Un instrument care prezintă material ordonat și îl lasă pe revizor să decidă face aceeași aritmetică fără să împrumute autoritatea revizorului.

Întrebați despre expunere. Dacă interfața poate prezenta materialul într-un fel care reduce expunerea inutilă, rămânând totuși suficientă pentru judecata care se face, este o întrebare reală de produs, și una de care unitățile țin mai mult decât se așteaptă cei mai mulți furnizori.

Angajamentul

VERA indexează media astfel încât să poată fi căutată după conținut, iar asistentului i se poate cere să caute elemente anume. Totul rulează pe infrastructura proprie a clientului, offline, și niciun material nu părăsește rețeaua în niciun moment.

Nu publicăm o cifră de acuratețe a detecției, și nu o vom face, pentru că nu putem dovedi una în fața dumneavoastră, pe propriile dumneavoastră date. Dacă aceasta este ceea ce cere evaluarea dumneavoastră, am prefera să o spunem de la început decât să fim descoperiți la mijloc.