El volumen de medios en casos de protección de menores: qué puede y qué no puede hacer el triaje

Es un tema difícil de tratar desde la posición de un proveedor, y hay una versión que no debería escribirse en absoluto: la que trata el sufrimiento de estos casos como una oportunidad de marketing, o la que afirma una precisión de detección que nadie puede demostrar.

Por eso este texto es deliberadamente acotado. Trata de la aritmética de la revisión de medios, de lo que el triaje automatizado cambia de verdad y de lo que no cambia.

La aritmética

Un solo dispositivo incautado suele contener decenas de miles de imágenes y archivos de vídeo. Un caso con varios dispositivos llega a las seis cifras sin que sea algo inusual. Las investigaciones que implican redes de distribución pueden alcanzar volúmenes muy superiores.

La revisión humana de ese volumen es lenta por necesidad. Es lenta porque requiere atención, porque exige juicio sobre un material que a menudo es ambiguo en sus bordes, y porque las personas que lo hacen no pueden mantenerla durante largos periodos. Las unidades bien gestionadas limitan deliberadamente el tiempo de exposición. Ese límite no es ineficiencia: es un control de salud laboral, y cualquier cálculo que trate las horas de revisión como elásticas está equivocado desde el principio.

Así que la limitación no es el volumen en sí. Es el volumen frente a una oferta de horas de revisión que está limitada deliberada y correctamente.

Lo que la automatización cambia realmente

La indexación de medios por contenido permite buscar en la colección por lo que contiene, y no solo por nombre de archivo, marca de tiempo o hash. Eso cambia tres cosas de forma concreta.

Ordenación. Un revisor que trabaja con el material en un orden determinado por su contenido tiene más probabilidades de encontrar pronto lo importante. En los casos en que identificar cuanto antes a una víctima cambia lo que ocurre después, la ordenación no es una ganancia de eficiencia: es un resultado.

Eliminación. Grandes partes de la colección de medios de cualquier dispositivo son fondos de pantalla, cachés de aplicaciones, memes, capturas de pantalla y recursos descargados. Sacarlos de la cola de revisión tiene poco riesgo y representa una fracción sustancial del volumen.

Vinculación. Los adjuntos ligados a las conversaciones que los transportaron, y la deduplicación frente al material ya visto, convierten una pila plana de archivos en algo con estructura. Saber en qué hilo llegó una imagen suele ser más revelador que la propia imagen.

Dos de esas tres no exigen que el software emita ningún juicio sobre el contenido del material, lo que conviene señalar, porque son las que aportan la mayor parte del beneficio práctico.

Lo que la automatización no cambia

No aparta al analista del proceso, y no rebaja el nivel de lo que exige un tribunal.

Cualquier sistema que clasifica material opera en un ámbito donde las categorías están definidas por la ley, varían según la jurisdicción y se discuten en sus límites. La estimación de la edad a partir de una imagen no es fiable en el rango que más importa. El contexto determina con frecuencia el carácter de una imagen de maneras que nada en los píxeles indica.

Un proveedor que afirme una cifra de precisión para esta tarea está haciendo una afirmación que no resiste un contrainterrogatorio, porque el banco de pruebas del que procede no es la población de un caso real, y las categorías que usó no son las que emplea la ley.

Así que el planteamiento honesto es que el triaje automatizado cambia el orden y el tamaño de la cola de revisión. Determinar qué es un material sigue siendo un juicio humano y jurídico, y la función del software es hacer posible el trabajo humano, no anticiparse a él.

La coincidencia de hashes y sus límites

La coincidencia de hashes con archivos conocidos sigue siendo la herramienta más fiable para este trabajo y la menos comentada, probablemente porque no tiene nada de llamativa. Cuando un material coincide con un conjunto conocido, la identificación es exacta y defendible de una forma que ningún sistema aprendido puede igualar.

Su limitación es igual de clara. Solo encuentra lo que ya se ha visto y catalogado. El material nuevo, el material recodificado y todo lo que se produce localmente no coincidirán, y el material producido localmente suele ser el más urgente, porque puede indicar un daño en curso.

Esa es la brecha que aborda la recuperación por contenido, y conviene ser precisos con lo que se afirma. No identifica un material como ilegal. Hace aflorar material que se parece a una descripción, para que una persona lo mire antes de lo que lo haría de otro modo.

Qué preguntar a un proveedor

Si está evaluando cualquier herramienta que afirme capacidad de triaje de medios, las preguntas útiles son concretas.

Pregunte qué ocurre con el material: si alguna parte sale de su infraestructura en algún momento, también para la indexación. En este tipo de casos, una respuesta que implique a un servicio de terceros suele poner fin a la conversación, y debe ser así.

Pregunte qué afirma determinar el sistema y qué se limita a ordenar. Son cosas distintas, y los proveedores las confunden.

Pregunte qué ve el revisor. Una herramienta que presenta una decisión invita al revisor a confirmarla. Una herramienta que presenta material ordenado y deja decidir al revisor hace la misma aritmética sin apoyarse en la autoridad del revisor.

Pregunte por la exposición. Si la interfaz puede presentar el material de forma que reduzca la exposición innecesaria, sin dejar de ser suficiente para el juicio que se debe emitir, es una cuestión real de producto, y una que a las unidades les importa más de lo que esperan la mayoría de los proveedores.

El compromiso

VERA indexa los medios para poder buscarlos por contenido, y se puede pedir al asistente que busque elementos concretos. Todo ello funciona en la infraestructura del cliente, sin conexión, y ningún material sale de la red en ningún momento.

No publicamos ninguna cifra de precisión de detección, y no la publicaremos, porque no podemos demostrarla ante usted con sus propios datos. Si su evaluación requiere eso, preferimos decirlo al principio antes que quedar al descubierto a mitad de camino.