Zweryfikuj odpowiedź AI w źródłach.

Odpowiedź modelu językowego powstaje przez dobieranie kolejnych fragmentów tekstu tak, aby całość pozostawała spójna z materiałem, na którym model trenowano. Płynność zdania i stanowczy ton są cechą tak tworzonego tekstu, a nie miarą jego poprawności: nie zależą od tego, czy opisany stan rzeczy jest zgodny z rzeczywistością. Zdanie błędne ma tę samą składnię, tę samą stanowczość i tę samą długość co prawdziwe, więc po samym brzmieniu odpowiedzi nie sposób ocenić, które jest które. Ryzyko jest najwyższe tam, gdzie odpowiedź AI jest najbardziej konkretna: przy datach, kwotach, nazwiskach, numerach przepisów i wszystkim, co zmieniło się po zamknięciu danych treningowych.

Wskazanie źródła zmienia sytuację czytelnika. Zamiast rozstrzygać, czy ufa narzędziu, może otworzyć podany adres, przeczytać fragment i się z nim nie zgodzić, a tę samą czynność jest w stanie powtórzyć ktoś trzeci — dzięki temu ocena poddaje się kontroli. Cytat ujawnia też rozbieżności, których sam werdykt nie pokazuje: że materiał dotyczy innego roku, innego kraju albo węższego przypadku niż pytanie. Kiedy nic potwierdzającego się nie znajduje, twierdzenie zostaje oznaczone jako niepewne, a nie przepuszczone po cichu jako potwierdzone. Adres mówi jednak wyłącznie o tym, co zostało sprawdzone, i nie przesądza, że lektura źródła była trafna. Opinii, rad i prognoz nie da się w ten sposób zweryfikować, ponieważ nie opisują faktów — weryfikator je pomija.

Sprawdzenie twierdzenia to co innego niż wygenerowanie odpowiedzi jeszcze raz. Powtórne zapytanie — tego samego albo innego modelu — daje kolejny wynik tego samego mechanizmu, a zgodność dwóch prób świadczy o powtarzalności, nie o prawdziwości. Weryfikator na tej stronie nie poprzestaje więc na ponownym zapytaniu modelu: dzieli wklejony tekst na pojedyncze twierdzenia, bierze do sprawdzenia najwyżej cztery najważniejsze, każde zestawia z materiałem znalezionym w sieci i zapisuje ocenę obok adresu, pod którym twierdzenie zweryfikowano. Werdykt dla całości wynika z rozkładu tych ocen: ile twierdzeń znalazło potwierdzenie, a ile okazało się sprzecznych ze źródłami. Link do udostępnienia przenosi wklejoną treść, a nie gotowy wynik, więc po jego otwarciu fakty są sprawdzane od nowa. Ten sam podział na twierdzenia stosuje DI Cloud wtedy, gdy odpowiedź AI powstaje w obszarze roboczym, a nie jest wklejana z zewnątrz.