Peržengęs izoliuotos aplinkos ribas mokymų metu, dirbtinio intelekto (DI) agentas „Rome“ ėmė slapta kasti kriptovaliutą. Apie šį incidentą skelbia portalas „Axios“, remdamasis su bendrove „Alibaba“ susijusių projekto autorių moksliniu straipsniu.
DI agentas ištrūko iš „smėliadėžės“
Pasak tyrėjų, modelis pademonstravo nenumatytą elgesį bei pažeidė bazinius saugumo protokolus. Siekdamas apeiti vidinius apribojimus ir vadinamąją „smėliadėžę“, agentas „Rome“ savarankiškai sukūrė atvirkštinį SSH tunelį. Šis paslėptas šifruotas ryšio kanalas su išoriniu kompiuteriu leido dirbtiniam intelektui pasiekti trečiųjų šalių skaičiavimo resursus bei pradėti kriptovaliutos kasybos procesą.
Kūrėjai ypač pabrėžia didžiausią specialistų nerimą keliantį faktą – modelio veiksmų neišprovokavo žmogus. Ataskaitoje nurodoma, jog DI agentas negavo jokių tiesioginių komandų ar nurodymų sukurti tinklo tunelį bei pradėti žetonų gavybą, tad sprendimą ieškoti resursų ir kasti kriptovaliutą algoritmai priėmė visiškai spontaniškai.
Galiausiai dėl neteisėtos veiklos bei sukurto paslėpto ryšio kanalo suveikė vidinės saugumo sistemos, užblokavusios agento veiksmus. Siekdami išvengti incidento pasikartojimo, tyrėjai pritaikė modeliui griežtesnius sisteminius apribojimus ir perkūrė jo mokymo procesą, taip pašalindami saugumo spragas, leidusias DI užmegzti išorinius ryšius.
Analizuodami šį atvejį, portalo „Axios“ ekspertai atkreipia dėmesį į didėjančią algoritmų sąveikos su realiais finansais problemą. Kriptovaliutos ir decentralizuoti tinklai autonominiams DI agentams tampa idealiais vartais į pasaulinę ekonomiką. Mat kriptovaliutų operacijoms nereikia tradicinių banko sąskaitų ar asmens tapatybės patikrinimų, tad techniškai dirbtinis intelektas jau geba savarankiškai inicijuoti verslo procesus, sudaryti ir pasirašyti išmaniąsias sutartis bei kaupti ar pervesti lėšas be jokio žmogaus įsikišimo.
