Paieškoje atrodė viskas tvarkingai. Pavadinimas. Autorius. Leidėjas. Puslapių skaičius. Net DOI numeris. Bibliotekininkė Rasa suvesdavo duomenis į katalogą — ir nieko nerasdavo. Knyga neegzistavo.
Pirmas kartas atrodė kaip klaida. Antras — kaip keistas sutapimas. Trečią kartą per savaitę Rasa suprato, kad problema sisteminė.
Kaip dirbtinis intelektas kuria tai, ko nėra
Pokalbių robotai negauna informacijos iš bibliotekų katalogų. Jie generuoja statistiškai tikėtiną žodžių seką. Jeigu užklausa skamba moksliniai — atsakymas atrodys moksliniai. Su visu akademiniu aparatu.
„Problema ne ta, kad robotas meluoja,” paaiškino Rasa. „Jis neturi sąvokos „tiesa”. Jis tiesiog stato sakinius, kurie skamba teisingai.”
Rezultatas — suklastoti pavadinimai, autoriai, žurnalai ir identifikatoriai, pateikti tokiu tonu, kuris nesiskiria nuo tikrų. Formatuoti. Sklandūs. Profesionalūs.
Kodėl žmonės tuo tiki
Rasa tai vadina „formato hipnoze”. Žmogus mato struktūrą — pavadinimas, metai, leidėjas — ir smegenys automatiškai priskiria patikimumą. Tai autoriteto šališkumas. Kai informacija pateikta akademiniu formatu, kritinis vertinimas sumažėja.
Bibliotekose tai jau tapo kasdienybe. Skaitytojai ateina su sąrašais, kuriuose trečdalis nuorodų — išgalvotos. Studentai pateikia darbus su citatomis, kurių patikrinti neįmanoma — nes knygos niekada nebuvo parašytos.
„Vienas studentas atnešė dvidešimties šaltinių sąrašą,” pasakojo Rasa. „Septyni buvo tikri. Trylika — dirbtinio intelekto sugeneruoti. Ir jis pats nežinojo.”
Keturi patikrinimai per dvi minutes
Pirmas — bibliotekos katalogas. WorldCat arba vietinis OPAC. Jeigu knygos nėra nė viename kataloge — didelė tikimybė, kad ji neegzistuoja.
Antras — leidėjo svetainė. Tikras leidėjas turi įrašą apie kiekvieną išleistą knygą.
Trečias — DOI patikra per CrossRef. Suklastotas DOI grąžins tuščią rezultatą.
Ketvirtas — antrinis šaltinis. Jeigu knyga tikra — ją kas nors kitas bus citavęs anksčiau. Jeigu citata atsiranda tik vienoje vietoje — tai signalas.
„Keturios minutės darbo gali sutaupyti keturias valandas klaidingo tyrimo,” pridūrė Rasa.
Viena taisyklė, kuri viską supaprastina
Rasa dabar kiekvienam skaitytojui, kuris ateina su dirbtinio intelekto sugeneruotu sąrašu, sako tą patį: „Kiekviena nuoroda yra hipotezė. Ne faktas. Kol nepatvirtinai — netikėk.”
