Le volume de médias dans les affaires de protection de l'enfance : ce que le tri peut et ne peut pas faire

C’est un sujet difficile à aborder depuis une position d’éditeur, et il en existe une version qui ne devrait pas être écrite du tout : celle qui traite la souffrance présente dans ces affaires comme une occasion commerciale, ou qui avance des taux de détection que personne ne peut étayer.

Ce texte est donc volontairement étroit. Il porte sur l’arithmétique de la revue de médias, sur ce que le tri automatisé change réellement, et sur ce qu’il ne change pas.

L’arithmétique

Un seul appareil saisi contient couramment des dizaines de milliers d’images et de fichiers vidéo. Une affaire à plusieurs appareils atteint six chiffres sans rien d’exceptionnel. Les enquêtes portant sur des réseaux de diffusion peuvent porter sur bien davantage.

La revue humaine de ce volume est lente par nécessité. Elle est lente parce qu’elle exige de l’attention, parce qu’elle exige un jugement sur un matériel souvent ambigu aux marges, et parce que les personnes qui la mènent ne peuvent pas la soutenir longtemps. Les unités bien tenues limitent délibérément les durées d’exposition. Cette limite n’est pas de l’inefficacité, c’est une mesure de santé au travail, et tout calcul qui traite les heures de revue comme élastiques est faux avant même de commencer.

La contrainte n’est donc pas le volume en soi. C’est le volume rapporté à une offre d’heures de revue délibérément et correctement plafonnée.

Ce que l’automatisation change réellement

L’indexation des médias par leur contenu permet de chercher dans la collection selon ce qu’elle contient plutôt que selon le seul nom de fichier, horodatage ou empreinte. Cela change concrètement trois choses.

L’ordre. Un opérateur qui parcourt le matériel dans un ordre informé par le contenu a plus de chances de trouver tôt ce qui compte. Dans les affaires où identifier rapidement une victime change la suite, l’ordre n’est pas un gain d’efficacité, c’est un résultat.

L’élimination. Une large part d’une collection de médias sur n’importe quel appareil est constituée de fonds d’écran, de caches applicatifs, d’images humoristiques, de captures d’écran et de contenus téléchargés. Les retirer de la file de revue présente un risque faible et représente une fraction substantielle du volume.

La mise en relation. Des pièces jointes rattachées aux conversations qui les portaient, et une déduplication contre ce qui a déjà été vu, transforment un tas plat de fichiers en quelque chose de structuré. Savoir dans quel fil une image est arrivée est fréquemment plus instructif que l’image.

Deux de ces trois effets ne demandent au logiciel aucun jugement sur le contenu du matériel, ce qui mérite d’être noté, puisqu’ils portent l’essentiel du bénéfice pratique.

Ce que l’automatisation ne change pas

Elle ne retire pas l’analyste de la boucle, et elle n’abaisse pas ce qu’une juridiction exige.

Tout système qui classe du matériel opère dans un domaine où les catégories sont définies par le droit, varient selon les juridictions et sont contestées aux limites. L’estimation d’âge à partir d’une image n’est pas fiable dans la tranche qui compte le plus. Le contexte détermine fréquemment le caractère d’une image d’une manière que rien dans les pixels n’indique.

Un éditeur qui avance un taux de précision pour cette tâche formule une affirmation qui ne survivra pas à un contre-interrogatoire, parce que le protocole dont elle vient n’est pas la population d’une affaire réelle et que les catégories employées ne sont pas celles du texte de loi.

Le cadrage honnête est donc que le tri automatisé modifie l’ordre et la taille de la file de revue. La qualification de ce qu’est un matériel reste un jugement humain et juridique, et le rôle du logiciel est de rendre le travail humain possible plutôt que de le devancer.

L’empreinte connue, et ses limites

La comparaison d’empreintes de fichiers connus reste l’outil le plus fiable pour ce travail et le moins discuté, probablement parce qu’il n’est pas spectaculaire. Là où un matériel correspond à un ensemble connu, l’identification est exacte et défendable d’une façon qu’aucun système appris n’atteint.

Sa limite est tout aussi claire. Elle ne trouve que ce qui a déjà été vu et catalogué. Un matériel nouveau, ré-encodé ou produit localement ne correspondra pas, et le matériel produit localement est souvent le plus urgent, parce qu’il peut signaler un préjudice en cours.

C’est le vide que la recherche par contenu adresse, et il faut être précis sur l’affirmation. Elle n’identifie pas un matériel comme illégal. Elle fait remonter un matériel qui ressemble à une description, pour qu’un humain le regarde plus tôt qu’il ne l’aurait fait.

Ce qu’il faut demander à un éditeur

Si vous évaluez un outil revendiquant une capacité de tri de médias, les questions utiles sont étroites.

Demandez ce qu’il advient du matériel : si une partie quelconque quitte votre infrastructure à un moment quelconque, indexation comprise. Pour cette catégorie d’affaires, une réponse impliquant un service tiers met en général fin à la conversation, et c’est justifié.

Demandez ce que le système prétend déterminer et ce qu’il se contente de classer. Ce sont deux choses différentes, et les éditeurs les confondent.

Demandez ce que voit l’opérateur. Un outil qui présente une décision invite l’opérateur à la confirmer. Un outil qui présente un matériel ordonné et laisse l’opérateur décider fait la même arithmétique sans emprunter son autorité.

Demandez ce qu’il en est de l’exposition. Savoir si l’interface peut présenter le matériel d’une manière qui réduit l’exposition inutile tout en restant suffisante pour le jugement à porter est une vraie question produit, et les unités y tiennent plus que la plupart des éditeurs ne l’imaginent.

L’engagement

VERA indexe les médias pour qu’ils soient recherchables par contenu, et l’assistant peut être chargé d’y chercher des éléments précis. Tout fonctionne sur l’infrastructure du client, hors ligne, et aucun matériel ne quitte le réseau à aucun moment.

Nous ne publions pas de taux de détection et nous ne le ferons pas, parce que nous ne pourrions pas l’étayer devant vous sur vos propres données. Si votre évaluation l’exige, nous préférons le dire au début plutôt qu’être pris en défaut au milieu.