Обсяг медіа у справах захисту дітей: що може тріаж і чого не може

Це важка тема для тексту з позиції постачальника, і є її варіант, який не слід писати взагалі: той, що трактує страждання в цих справах як нагоду для маркетингу або заявляє точність виявлення, яку ніхто не може підтвердити.

Тож цей текст навмисно вузький. Він про арифметику перегляду медіа, про те, що автоматизований тріаж справді змінює, і про те, чого він не змінює.

Арифметика

Один вилучений пристрій звичайно містить десятки тисяч зображень і відеофайлів. Справа з кількома пристроями доходить до шестизначних чисел, і це не є чимось незвичайним. Розслідування, що стосуються мереж поширення, можуть охоплювати істотно більше.

Людський перегляд такого обсягу повільний з необхідності. Він повільний, бо потребує уваги, бо потребує судження про матеріал, часто неоднозначний на краях, і бо люди, які це роблять, не можуть витримувати це довго. Добре організовані підрозділи навмисно обмежують час експозиції. Ця межа — не неефективність, це захід охорони здоров’я працівників, і будь-який розрахунок, який трактує години перегляду як еластичні, хибний ще до початку.

Отже, обмеження — не сам обсяг. Це обсяг проти запасу годин перегляду, який навмисно і правильно обмежено.

Що автоматизація насправді змінює

Індексування медіа за вмістом дає змогу шукати в збірці за тим, що вона містить, а не лише за іменем файла, міткою часу або хешем. Це конкретно змінює три речі.

Порядок. Той, хто переглядає матеріал у порядку, який підказує вміст, імовірніше знайде важливе рано. У справах, де швидке встановлення потерпілого змінює те, що відбувається далі, порядок — не виграш в ефективності, а результат.

Відсіювання. Велика частина збірки медіа на будь-якому пристрої — це шпалери, кеші застосунків, меми, знімки екрана і завантажені ресурси. Прибрати їх із черги перегляду — низький ризик, і це істотна частка обсягу.

Зв’язування. Вкладення, прив’язані назад до розмов, які їх несли, і усунення дублікатів щодо матеріалу, який уже бачили, перетворюють пласку купу файлів на щось зі структурою. Знати, в якій гілці надійшло зображення, часто інформативніше за саме зображення.

Дві з цих трьох узагалі не вимагають від програмного забезпечення жодного судження про вміст матеріалу, і це варто зазначити, бо саме вони несуть більшу частину практичної користі.

Чого автоматизація не змінює

Вона не прибирає аналітика з контуру, і вона не знижує стандарту, якого вимагає суд.

Будь-яка система, яка класифікує матеріал, працює в ділянці, де категорії визначено законом, вони залежать від юрисдикції і їх оспорюють на межах. Оцінка віку за зображенням ненадійна в тому діапазоні, який має найбільше значення. Контекст часто визначає характер зображення так, як ніщо в пікселях не вказує.

Постачальник, який заявляє цифру точності для цієї задачі, робить твердження, яке не витримає перехресного допиту, бо еталон, з якого її взято, не є сукупністю справжньої справи, а категорії, якими він користувався, не ті, якими користується закон.

Тож чесне формулювання таке: автоматизований тріаж змінює порядок і розмір черги перегляду. Визначення того, чим є матеріал, лишається людським і правовим судженням, а робота програмного забезпечення — зробити роботу людини можливою, а не випереджати її.

Зіставлення хешів і його межі

Зіставлення хешів відомих файлів лишається найнадійнішим інструментом для цієї роботи і найменш обговорюваним, мабуть, бо воно невидовищне. Там, де матеріал збігається з відомим набором, встановлення точне і таке, що його можна обстояти так, як жодна навчена система не може.

Його обмеження так само ясне. Воно знаходить лише те, що вже бачили і занесли до каталогу. Новий матеріал, перекодований матеріал і все, створене на місці, не збіжаться, а матеріал, створений на місці, часто найтерміновіший, бо він може вказувати на шкоду, яка триває.

Саме цю прогалину закриває пошук за вмістом, і твердження варто сформулювати точно. Він не визначає матеріал як незаконний. Він виносить матеріал, схожий на опис, щоб людина подивилася на нього раніше, ніж подивилася б інакше.

Про що питати постачальника

Якщо Ви оцінюєте будь-який інструмент, який заявляє можливість тріажу медіа, корисні запитання вузькі.

Запитайте, що стається з матеріалом: чи будь-яка його частина в якийсь момент залишає Вашу інфраструктуру, зокрема для індексування. Для цієї категорії справ відповідь, у якій є служба третьої сторони, зазвичай є кінцем розмови, і так і має бути.

Запитайте, що система заявляє визначити, а що вона лише ранжує. Це різні речі, і постачальники їх розмивають.

Запитайте, що бачить той, хто переглядає. Інструмент, який подає рішення, запрошує того, хто переглядає, його підтвердити. Інструмент, який подає впорядкований матеріал і дає тому, хто переглядає, вирішити, робить ту саму арифметику, не позичаючи його повноваження.

Запитайте про експозицію. Чи може інтерфейс подавати матеріал так, щоб зменшити зайву експозицію і лишитися достатнім для судження, яке ухвалюють, — це справжнє продуктове запитання, і підрозділам воно важливіше, ніж очікує більшість постачальників.

Зобов’язання

VERA індексує медіа так, щоб їх можна було шукати за вмістом, і асистента можна попросити шукати конкретні елементи. Усе це працює на власній інфраструктурі замовника, офлайн, і жоден матеріал у жоден момент не залишає мережу.

Ми не публікуємо цифру точності виявлення і не будемо, бо не можемо підтвердити її перед Вами на Ваших власних даних. Якщо саме цього вимагає Ваше оцінювання, ми воліємо сказати це на початку, ніж щоб це виявилося посередині.