O volume de multimédia nos casos de proteção de menores: o que a triagem pode e não pode fazer

Este é um assunto difícil de escrever a partir da posição de um fornecedor, e há uma versão que não devia ser escrita de todo: a versão que trata o sofrimento nestes casos como uma oportunidade de marketing, ou que afirma uma exatidão de deteção que ninguém pode comprovar.

Por isso este texto é deliberadamente estreito. É sobre a aritmética da revisão de multimédia, o que a triagem automática muda de facto e o que não muda.

A aritmética

Um só dispositivo apreendido contém em geral dezenas de milhares de imagens e ficheiros de vídeo. Um caso com vários dispositivos chega aos seis algarismos sem ser invulgar. Investigações que envolvem redes de distribuição podem envolver substancialmente mais.

A revisão humana desse volume é lenta por necessidade. É lenta porque exige atenção, porque exige juízo sobre material que é muitas vezes ambíguo nos limites, e porque as pessoas que a fazem não a conseguem sustentar por períodos longos. As unidades bem geridas limitam o tempo de exposição de propósito. Esse limite não é ineficiência, é um controlo de saúde ocupacional, e qualquer cálculo que trate as horas do revisor como elásticas está errado antes de começar.

Por isso, a restrição não é o volume por si. É o volume contra uma oferta de horas de revisão que é deliberada e corretamente limitada.

O que a automatização muda de facto

A indexação de multimédia baseada no conteúdo permite pesquisar a coleção pelo que contém e não só pelo nome do ficheiro, pela data e hora ou pelo hash. Isso muda três coisas em concreto.

Ordenação. Um revisor que percorre o material numa ordem informada pelo conteúdo tem mais probabilidade de encontrar cedo o que importa. Nos casos em que identificar uma vítima depressa muda o que acontece a seguir, a ordenação não é um ganho de eficiência, é um resultado.

Eliminação. Grandes partes de uma coleção de multimédia em qualquer dispositivo são imagens de fundo, caches de aplicações, memes, capturas de ecrã e recursos transferidos. Retirá-los da fila de revisão é de baixo risco e é uma fração substancial do volume.

Ligação. Anexos ligados de volta às conversas que os transportaram, e a desduplicação contra material já visto, transformam um monte plano de ficheiros em algo com estrutura. Saber em que fio uma imagem chegou é frequentemente mais informativo do que a imagem.

Dois desses três não exigem que o software faça juízo nenhum sobre o conteúdo do material, o que vale a pena notar, porque levam a maior parte do benefício prático.

O que a automatização não muda

Não retira o examinador do ciclo, e não reduz o padrão do que um tribunal exige.

Qualquer sistema que classifica material opera num domínio em que as categorias são definidas por lei, específicas da jurisdição e contestadas nos limites. A estimativa de idade a partir de uma imagem não é fiável no intervalo que mais importa. O contexto determina frequentemente o carácter de uma imagem de formas que nada nos pixéis indica.

Um fornecedor que afirma um número de exatidão para esta tarefa faz uma afirmação que não sobrevive a um contrainterrogatório, porque a referência de medição de onde veio não é a população de um caso real, e as categorias que usou não são as que a lei usa.

Por isso, o enquadramento honesto é que a triagem automática muda a ordem e o tamanho da fila de revisão. A determinação do que o material é continua a ser um juízo humano e jurídico, e o trabalho do software é tornar possível o trabalho do humano e não antecipá-lo.

A correspondência de hashes, e os seus limites

A correspondência de hashes de ficheiros conhecidos continua a ser a ferramenta mais fiável para este trabalho e a menos discutida, provavelmente porque é pouco vistosa. Onde o material corresponde a um conjunto conhecido, a identificação é exata e defensável de uma forma que nenhum sistema aprendido é.

A sua limitação é igualmente clara. Só encontra o que já foi visto e catalogado. Material novo, material recodificado e tudo o que foi produzido localmente não correspondem, e o material produzido localmente é muitas vezes o mais urgente, porque pode indicar dano em curso.

É a lacuna que a recuperação baseada no conteúdo trata, e vale a pena ser preciso sobre a afirmação. Não identifica material como ilegal. Traz à superfície material que se assemelha a uma descrição, para que um humano olhe para ele mais cedo do que olharia de outro modo.

O que perguntar a um fornecedor

Se se avalia qualquer ferramenta que afirma capacidade de triagem de multimédia, as perguntas úteis são estreitas.

Pergunte-se o que acontece ao material: se alguma parte sai da sua infraestrutura em algum momento, inclusive para indexação. Para esta categoria de caso, uma resposta que envolve um serviço de terceiro é em geral o fim da conversa, e devia sê-lo.

Pergunte-se o que o sistema afirma determinar, e o que apenas ordena. São coisas diferentes, e os fornecedores confundem-nas.

Pergunte-se o que o revisor vê. Uma ferramenta que apresenta uma decisão convida o revisor a confirmá-la. Uma ferramenta que apresenta material ordenado e deixa o revisor decidir faz a mesma aritmética sem tomar de empréstimo a autoridade do revisor.

Pergunte-se sobre a exposição. Se a interface pode apresentar o material de uma forma que reduz a exposição desnecessária e continua suficiente para o juízo que está a ser feito é uma pergunta real de produto, e uma com que as unidades se preocupam mais do que a maior parte dos fornecedores espera.

O compromisso

O VERA indexa a multimédia para que possa ser pesquisada pelo conteúdo, e pode pedir-se ao assistente que procure elementos específicos. Tudo corre na infraestrutura do próprio cliente, sem ligação, e nenhum material sai da rede em momento nenhum.

Não publicamos um número de exatidão de deteção, e não o faremos, porque não podemos comprová-lo diante de si, sobre os seus próprios dados. Se é isso que a sua avaliação exige, preferimos dizê-lo no início a sermos descobertos a meio.