Wolumen multimediów w sprawach ochrony dzieci: co triaż może, a czego nie może

To trudny temat do opisania z pozycji dostawcy i istnieje jego wersja, której nie należy pisać w ogóle: ta, która traktuje cierpienie w tych sprawach jak okazję marketingową albo która zgłasza dokładność wykrywania, której nikt nie potrafi wykazać.

Ten tekst jest więc celowo wąski. Jest o arytmetyce przeglądu multimediów, o tym, co triaż automatyczny naprawdę zmienia, i o tym, czego nie zmienia.

Arytmetyka

Jedno zajęte urządzenie zwykle trzyma dziesiątki tysięcy obrazów i plików wideo. Sprawa z kilkoma urządzeniami dochodzi do sześciu cyfr, nie będąc niczym niezwykłym. Śledztwa dotyczące sieci dystrybucji mogą obejmować znacznie więcej.

Ludzki przegląd takiego wolumenu jest z konieczności powolny. Jest powolny, bo wymaga uwagi, bo wymaga osądu o materiale, który na brzegach często jest niejednoznaczny, i bo ludzie, którzy to robią, nie mogą tego utrzymywać przez długie okresy. Dobrze prowadzone jednostki celowo ograniczają czas ekspozycji. Ta granica nie jest nieefektywnością, jest środkiem ochrony zdrowia zawodowego, a każde liczenie, które traktuje godziny przeglądającego jak elastyczne, jest błędne, zanim się zacznie.

Ograniczeniem nie jest więc sam wolumen. Jest wolumen wobec podaży godzin przeglądu, która jest celowo i słusznie ograniczona.

Co automatyzacja naprawdę zmienia

Indeksowanie multimediów według treści pozwala przeszukiwać zbiór według tego, co zawiera, a nie tylko według nazwy pliku, znacznika czasu albo hasha. Zmienia to konkretnie trzy rzeczy.

Kolejność. Osoba przeglądająca, która przechodzi materiał w kolejności opartej na treści, ma większą szansę wcześnie znaleźć to, co ma znaczenie. W sprawach, w których szybkie rozpoznanie ofiary zmienia to, co dzieje się dalej, kolejność nie jest zyskiem wydajności, jest skutkiem.

Eliminacja. Duże części zbioru multimediów na dowolnym urządzeniu to tapety, pamięci podręczne aplikacji, memy, zrzuty ekranu i pobrane zasoby. Usunięcie ich z kolejki przeglądu jest niskim ryzykiem i jest znacznym ułamkiem wolumenu.

Powiązanie. Załączniki powiązane z rozmowami, które je niosły, oraz deduplikacja wobec materiału już widzianego, zamieniają płaski stos plików w coś ze strukturą. Wiedza o tym, w którym wątku obraz dotarł, jest często bardziej informacyjna niż sam obraz.

Dwie z tych trzech rzeczy w ogóle nie wymagają, aby oprogramowanie wydawało jakikolwiek osąd o treści materiału, co warto odnotować, bo niosą większość praktycznej korzyści.

Czego automatyzacja nie zmienia

Nie usuwa analityka z obiegu i nie obniża standardu, którego wymaga sąd.

Każdy system, który klasyfikuje materiał, działa w dziedzinie, w której kategorie są zdefiniowane prawnie, właściwe dla jurysdykcji i sporne na granicach. Szacunek wieku z obrazu nie jest wiarygodny w zakresie, który ma największe znaczenie. Kontekst często określa charakter obrazu w sposób, którego nic w pikselach nie wskazuje.

Dostawca, który podaje liczbę dokładności dla tego zadania, stawia twierdzenie, które nie przetrwa przesłuchania krzyżowego, bo test porównawczy, z którego pochodzi, nie jest populacją prawdziwej sprawy, a kategorie, których użył, nie są tymi, których używa ustawa.

Uczciwe ujęcie jest więc takie, że triaż automatyczny zmienia kolejność i wielkość kolejki przeglądu. Ustalenie, czym materiał jest, pozostaje osądem ludzkim i prawnym, a zadaniem oprogramowania jest uczynić pracę człowieka możliwą, a nie ją uprzedzić.

Dopasowanie hasha i jego granice

Dopasowanie hasha znanych plików pozostaje najpewniejszym narzędziem do tej pracy i najmniej omawianym, prawdopodobnie dlatego, że jest nieefektowne. Tam, gdzie materiał pasuje do znanego zbioru, identyfikacja jest dokładna i daje się obronić w sposób, w jaki nie daje się obronić żaden system wyuczony.

Jego ograniczenie jest równie jasne. Znajduje tylko to, co już widziano i skatalogowano. Nowy materiał, materiał ponownie zakodowany i wszystko wytworzone lokalnie nie będą pasować, a materiał wytworzony lokalnie jest często najpilniejszy, bo może wskazywać na trwającą krzywdę.

Do tej luki odnosi się wyszukiwanie według treści i warto być precyzyjnym co do twierdzenia. Nie identyfikuje materiału jako nielegalnego. Wynosi na powierzchnię materiał, który przypomina opis, aby człowiek spojrzał na niego wcześniej, niż spojrzałby w przeciwnym razie.

O co pytać dostawcę

Jeśli Pan ocenia jakiekolwiek narzędzie, które zgłasza możliwość triażu multimediów, użyteczne pytania są wąskie.

Proszę zapytać, co dzieje się z materiałem: czy jakakolwiek jego część opuszcza infrastrukturę Pana w jakimkolwiek punkcie, także w celu indeksowania. Dla tej kategorii spraw odpowiedź obejmująca usługę strony trzeciej zwykle kończy rozmowę i tak powinno być.

Proszę zapytać, co system twierdzi, że ustala, a co jedynie szereguje. To są rzeczy różne, a dostawcy je zacierają.

Proszę zapytać, co widzi osoba przeglądająca. Narzędzie, które przedstawia decyzję, zaprasza osobę przeglądającą, aby ją potwierdziła. Narzędzie, które przedstawia materiał uporządkowany i pozwala osobie przeglądającej zdecydować, robi tę samą arytmetykę, nie pożyczając jej autorytetu.

Proszę zapytać o ekspozycję. Czy interfejs może przedstawić materiał w sposób, który ogranicza zbędną ekspozycję, pozostając wystarczającym dla wydawanego osądu, jest prawdziwym pytaniem o produkt i takim, na którym jednostkom zależy bardziej, niż większość dostawców się spodziewa.

Zobowiązanie

VERA indeksuje multimedia tak, aby można je było przeszukiwać według treści, a asystenta można poprosić, aby szukał konkretnych elementów. Wszystko to działa na własnej infrastrukturze klienta, offline, i żaden materiał nie opuszcza sieci w żadnym punkcie.

Nie publikujemy liczby dokładności wykrywania i nie będziemy, bo nie potrafimy wykazać żadnej przed Panem, na własnych danych Pana. Jeśli tego wymaga ocena Pana, wolelibyśmy powiedzieć to na początku, niż zostać na tym przyłapani w połowie.