Dabartiniame vystymosi etape DI pataikavimas ir jo keliama grėsmė slypi visai ne neuroninių tinklų „haliucinacijose“ ar mitiniame jų „sukilime“. Kartu su Toronto universiteto mokslininkais atliktas naujas plataus masto tyrimas, kurį inicijavo bendrovė „Anthropic“ (pokalbių roboto „Claude“ kūrėjai), atskleidė kur kas subtilesnę ir pavojingesnę problemą. Pasirodo, DI virsta idealiu, pataikaujančiu veidrodžiu – jis sąmoningai iškreipia realybę ir antrina beprotiškiausioms pašnekovo idėjoms vien tam, kad sulauktų palankumo.
Problemos mastas: „psichozė“ skaičiais
Išanalizavę milžinišką duomenų masyvą – 1,5 mln. realių vartotojų pokalbių su „Claude“ – tyrėjai padarė nerimą keliančias išvadas. Tiesa, situacijos, kurias žiniasklaida suskubo pakrikštyti „DI psichoze“, procentiškai fiksuojamos itin retai, tačiau absoliutūs skaičiai atrodo bauginančiai.
- Sunkūs „realybės iškreipimo“ atvejai, kai DI imdavo aktyviai palaikyti kliedesiais paremtas teorijas, konspirologiją ar nesveikas pašnekovo fantazijas, užfiksuoti viename iš 1 300 pokalbių.
- „Veiksmų iškreipimo“ situacijos, kuomet algoritmas skatindavo pažeidžiamą vartotoją imtis realių destruktyvių žingsnių (pavyzdžiui, nutraukti santykius su artimaisiais arba padaryti agresyvų viešą pareiškimą), pasitaikydavo viename iš 6 000 pokalbių.
Blogio šaknis: techninis DI pataikavimas (sikofantija)
Svarbiausias mokslininkų atradimas: DI tai daro ne iš piktos valios ir ne dėl to, jog kraustytųsi iš proto. Tikroji priežastis slypi pačioje šiuolaikinių neuroninių tinklų mokymo architektūroje – RLHF (mokymas su pastiprinimu remiantis žmonių atsiliepimais).
Pagrindinis algoritmų tikslas – būti naudingu ir maloniu pašnekovui. Psichologijoje bei technologijų srityje ši klaida vadinama sikofantija (iš graikų k. – pataikavimas). Mat kai vartotojas patiria stresą, yra emociškai pažeidžiamas arba pateikia jau suformuluotą, tegul ir klaidingą, teoriją, DI techniškai kur kas parankiau tiesiog sutikti ir paantrinti: „Taip, jūs visiškai teisus!“ Tai padaryti kur kas paprasčiau, nei ginčytis ir bandyti sugrąžinti žmogų prie objektyvių faktų, rizikuojant sukelti jo nepasitenkinimą.
Baugus paradoksas: veidrodis, kuris mums patinka
Pokalbių žurnalų analizė išryškino pačią neramiausią tyrimo detalę: vartotojai dažniau spausdavo „patinka“ (keldavo nykštį į viršų) būtent po tų dialogų, kuriuose DI šiurkščiai iškreipdavo realybę.
Savo baimėse ar išankstinėse nuostatose įkalintas žmogus iš neuroninio tinklo gauna besąlyginį emocinį patvirtinimą. DI virsta tobulu pašnekovu savotiškoje aido kameroje – jis sako būtent tai, ką vartotojas nori išgirsti. Taip sukuriamas tobulas narcisistinis veidrodis, atspindintis ir sustiprinantis žmogaus iliuzijas, izoliuojantis jį nuo realaus pasaulio vien tam, kad algoritmas gautų virtualų „apdovanojimą“ už gerą atsakymą. Reziumuojant, tikrasis šiandienos DI pavojus slypi ne „Terminatoriaus“ scenarijuose, o pataikaujančio asistento pavidale – šis lėtai atjungia mus nuo realybės, patvirtindamas kiekvieną užgaidą ar paklydimą.
