Weryfikacja wyniku AI w informatyce śledczej: co sąd musi zobaczyć

Każda rozmowa o AI w informatyce śledczej dochodzi w końcu do tego samego pytania, zwykle postawionego jak wyzwanie: skąd wiemy, że nie zmyśla.

To właściwe pytanie, a zwykłe odpowiedzi są złe. Dostawcy odpowiadają procentami dokładności, których w sali sądowej nie da się obalić, bo nikt nie potrafi odtworzyć testu porównawczego. Albo odpowiadają uspokojeniem co do jakości modelu, co jest twierdzeniem o składniku, a nie o procesie, przez który przeszedł dowód.

Lepsza odpowiedź jest niewygodna i znacznie mocniejsza: proszę założyć, że czasem będzie błędna, i budować tak, aby błąd dało się wykryć tanio.

O co sąd naprawdę pyta

Sąd nie ocenia modelu. Sąd pyta, czy konkretne twierdzenie faktyczne w raporcie da się podeprzeć.

To pytanie ma kształt, który wyprzedza AI o dekady. Skąd to pochodzi. Kto to badał. Czy można mi to pokazać. Czy obrona może zbadać ten sam materiał. Czy cokolwiek zmieniono. Wprowadzenie modelu językowego do obiegu pracy nie zmienia pytania, zmienia tylko to, jak łatwo albo jak trudno na nie odpowiedzieć.

Wymogiem projektu nie jest więc to, aby model miał rację. Jest nim to, aby każde twierdzenie, które wytwarza, rozwiązywało się do konkretnego rekordu, który człowiek może otworzyć, przeczytać i, jeśli trzeba, położyć przed sędzią.

Jeśli twierdzenia nie da się przeprowadzić z powrotem do rekordu, nie powinno go być w raporcie, czy wytworzył je model, czy zmęczony człowiek o jedenastej w nocy.

Cytowanie jest właściwością struktury, nie funkcją

Jest duża różnica między systemem, który zwykle wymienia swoje źródła, a systemem, który nie potrafi wytworzyć wyniku bez nich.

W pierwszym cytowanie jest zachowaniem. Osiąga się je grzeczną prośbą, pogarsza się w przypadkach nietypowych i zawodzi dokładnie tam, gdzie jest najbardziej potrzebne: przy długiej, skomplikowanej odpowiedzi, która syntetyzuje kilka wątków, czyli przy tej, którą analityk najmniej potrafi sprawdzić z pamięci.

W drugim krok wyszukania odbywa się najpierw, a tożsamość wyszukanych rekordów wędruje z odpowiedzią przez cały potok. Cytowanie nie jest czymś, co napisał model. Jest zapisem tego, które wiersze odczytano.

Ta różnica jest tym, co osoba oceniająca powinna sprawdzić. Użyteczne pytanie nie brzmi „czy cytuje źródła”. Brzmi „co się dzieje, jeśli nie potrafi znaleźć żadnego”, a jedyną akceptowalną odpowiedzią jest to, że nie powstaje żadne twierdzenie.

Weryfikacja musi być tania, inaczej jej nie będzie

Oto część, którą się niedocenia, i jest to problem czynników ludzkich, a nie problem techniczny.

Każdy proces, który wymaga, aby analityk spędził popołudnie na potwierdzaniu ustalenia, przy obciążeniu sprawami da mniej potwierdzonych ustaleń. Nie dlatego, że analitycy są niedbali, lecz dlatego, że czas jest skończony, a potwierdzenie konkuruje z dwunastoma innymi zabezpieczeniami, które czekają. Krok weryfikacji, który jest drogi, jest krokiem weryfikacji, który się racjonuje, a racjonowana weryfikacja jest gorsza niż brak automatyzacji w ogóle, bo niesie pozór rygoru bez treści.

Miarą, która ma znaczenie, jest więc koszt jednego sprawdzenia. Jeśli dojście do rekordu źródłowego zajmuje jedno kliknięcie i pokazuje oryginalny wiersz w jego oryginalnym kontekście, weryfikacja przestaje być decyzją, którą analityk musi podjąć. Staje się domyślna, bo pominięcie jej niczego nie oszczędza.

To argument za wbudowaniem identyfikowalności w model rekordu, a nie za odtwarzaniem jej w chwili wyświetlenia. Cytowanie, które nadal się rozwiązuje po tym, jak mapowanie, które je wytworzyło, zostało poprawione, jest cytowaniem, na którym analityk może polegać miesiące później, gdy sprawa trafia do sądu i nikt nie pamięta szczegółów.

O co pytać dostawcę

Jeśli Pan ocenia jakiekolwiek narzędzie z asystentem AI, cztery pytania oddzielają poważne od reszty.

Czy da się kliknąć dowolne twierdzenie i trafić na rekord źródłowy? Nie na dokument, nie na stronę, na rekord. Proszę ich poprosić, aby zrobili to na żywo, na twierdzeniu, które Pan wybierze, w wątku, który Pan wskaże.

Co jest zapisywane w dzienniku? Każda czynność, którą podjął asystent, i każdy wynik, który otrzymał, powinny być zapisane tam, gdzie Pan to kontroluje i może przeczytać. Jeśli dziennik zostaje u dostawcy, jest to inny produkt, o innym profilu ryzyka.

Dokąd idą dane? Jeśli odpowiedź obejmuje zewnętrznego dostawcę wnioskowania, jest to decyzja, którą służba Pana musi podjąć świadomie, a nie odkryć w przeglądzie bezpieczeństwa po wdrożeniu.

Co robi, gdy nie wie? Proszę zadać pytanie, na które dane nie potrafią odpowiedzieć, i patrzeć. System, który wytwarza pewny siebie, dobrze napisany i całkowicie niepodparty akapit, powiedział Panu wszystko, co trzeba wiedzieć o tym, jak zachowa się na prawdziwej sprawie o drugiej w nocy.

Uczciwe stanowisko

Niezależni eksperci kryminalistyczni są w tym punkcie zgodni: wynik AI trzeba zweryfikować wobec danych oryginalnych, zanim można się na nim oprzeć. Nie jest to ograniczenie, które należy zaprojektować tak, aby zniknęło, jest to właściwa relacja między systemem automatycznym a procesem dowodowym.

Wartość wprowadzenia modelu do pracy kryminalistycznej nie polega na tym, że zastępuje osąd analityka. Polega na tym, że czyni wykonywanie tego osądu możliwym przy wolumenie, przy którym w przeciwnym razie po cichu przestaje się ono dziać. Analityk, który wcześniej mógł przeczytać pięć procent urządzenia, a teraz czyta istotną część całości, z każdym wnioskiem sprawdzalnym jednym kliknięciem, wykonuje lepszą pracę kryminalistyczną, a nie bardziej zautomatyzowaną pracę kryminalistyczną.

To jedyne twierdzenie, które warto stawiać, i to, do którego wolelibyśmy być rozliczani.