Bendrovės „Google“ padalinys „Threat Intelligence Group“ paskelbė ataskaitą, kurioje aprašoma beprecedentė situacija – dirbtinis intelektas (DI) iš pagalbininko virto savarankišku programišiumi. Saugumo ekspertai pirmą kartą užfiksavo atvejį, kai algoritmas beveik nuo nulio sukūrė eksploitą, skirtą masinėms kibernetinėms atakoms.
Portalas NEWSROOM IN aiškinasi, kokio masto tai grėsmė ir ar jau laikas dvigubu sluoksniu klijuoti nešiojamųjų kompiuterių kameras.
Dirbtinis intelektas nusikaltėlių rankose: kas pasikeitė?
Anksčiau programišiai pasitelkdavo pokalbių robotus tik įtikinamiems sukčiavimo (angl. phishing) laiškams rašyti, tačiau dabar situacija keičiasi. Kibernetinių nusikaltėlių grupuotės iš Kinijos bei Šiaurės Korėjos, pavyzdžiui, liūdnai pagarsėjusi „APT45“, verčia neuroninius tinklus atlikti saugumo auditorių vaidmenį.
- Nulinės dienos (angl. zero-day) pažeidžiamumų paieška: Tai – pačios pavojingiausios saugumo spragos, apie kurias nežino net patys kūrėjai. Dirbtinis intelektas išmoko aptikti ne tik technines klaidas, bet ir loginius prieštaravimus programiniame kode, kuriuos įprasti skeneriai tiesiog praleidžia.
- Haliucinacijos piktavalių tarnyboje: „Google“ specialistų aptiktą dirbtinio intelekto parašytą eksploitą išdavė specifiniai požymiai. Kode rasta mokomųjų komentarų, išgalvotų saugumo vertinimų ir „Python“ kalbos modeliams būdingo formatavimo.
Žalinga programa „PROMPTSPY“: kai išmanusis telefonas gyvena savo gyvenimą
Vienas labiausiai gąsdinančių naujosios eras pavyzdžių – „Android“ operacinei sistemai skirta žalinga programa „PROMPTSPY“. Šis virusas naudoja „Gemini“ modelį aukos ekranui analizuoti. Programa nuskaito sąsajos struktūrą, išsiunčia duomenis neuroniniam tinklui ir gauna konkrečias komandas – kur paspausti ar braukti.
Be to, „PROMPTSPY“ geba savarankiškai įvesti PIN kodus, perimti grafinius slaptažodžius ir net blokuoti bandymus jį pašalinti – virusas sukuria nematomus elementus virš mygtuko „Išdiegti“. Tiesą sakant, telefone apsigyvena savotiškas „vartotojas vaiduoklis“, valdantis įrenginį greičiau ir tiksliau nei tikrasis savininkas.
„Triukšmo uždangos“ taktika: beprasmis kodas
Siekdami pergudrauti antivirusines programas, programišiai pasitelkia dirbtinį intelektą „informaciniam triukšmui“ kurti. Pavyzdžiui, kenkėjiškose programose „CANFAIL“ bei „LONGSTREAM“ prirašyta tūkstančiai eilučių beprasmio kodo, kurį sugeneravo neuroninis tinklas. Ten galima rasti dešimtis vasaros laiko perėjimo patikrinimų, neatliekančių jokios realios funkcijos, tačiau priverčiančių apsaugos sistemas manyti, jog tai – eilinė, niekuo neišsiskirianti programėlė.
Pagrindinis klausimas: ar jau metas nerimauti?
Nors situacija skamba grėsmingai, ekspertai ramina – panikuoti dar anksti, tačiau budrumo prarasti nevalia.
Kodėl situacija valdoma:
- „Google“ išlieka žingsniu priekyje: Aprašytuoju atveju bendrovės specialistai aptiko dirbtinio intelekto sugeneruotą eksploitą dar prieš jį realiai panaudojant atakose.
- Skydas prieš kardą: Technologijų milžinė tą patį dirbtinį intelektą naudoja pažeidžiamumams ieškoti ir automatiškai juos taisyti. Tai – savotiškos algoritmų ginklavimosi varžybos, kuriose gynėjų pusėje veikia ne ką mažiau galingi modeliai.
Dėl ko verta sunerimti:
- Autonomija: Programišiai vis dažniau pereina prie „Hexstrike“ tipo sistemų, gebančių savarankiškai vykdyti žvalgybą ir koordinuoti atakas be jokio žmogaus įsikišimo.
- Smūgis pasitikėjimui: Piktavaliai pradėjo laužtis į populiarias platformos „GitHub“ bibliotekas (pavyzdžiui, „LiteLLM“), kuriomis naudojasi dirbtinio intelekto kūrėjai visame pasaulyje.
Ekspertų patarimas: Dirbtinio intelekto valdomų programišių eroje įprastas dviejų veiksnių autentiškumo patvirtinimas SMS žinutėmis tampa vis labiau pažeidžiamas. Saugumo specialistai rekomenduoja pereiti prie aparatinės įrangos saugos raktų arba specialių autentifikavimo programėlių. Nors algoritmai puikiai „skaito“ logiką, jie vis dar negali pasiekti fizinio rakto jūsų kišenėje.
