DI kaip užpuolikas: fišingas, deepfake ir suklastoti balso skambučiai

Dirbtinis intelektas (toliau – DI) šiandien rašo laiškus, analizuoja duomenis, verčia, generuoja kodą ir atsakinėja klientams. Jis nuima nuo pečių darbą, kurio niekas nemėgsta. Tą patį įrankių rinkinį gavo ir užpuolikai.

Ataka su DI retai kada būna išradinga. Užpuolikas nepradeda nuo klaidos paieškos sistemoje, jei tikslą pasiekia paprasčiau: įtikina žmogų paspausti nuorodą, suvesti slaptažodį, apmokėti sąskaitą, atidaryti priedą arba persiųsti vienkartinį kodą.

Todėl fišingas (liet. duomenų viliojimas, angl. phishing) tebėra trumpiausias kelias iki pinigų, paskyrų, duomenų ir įmonės sistemų. DI čia pakeitė vieną dalyką: laiškai tapo įtikinamesni, jų galima išsiųsti tūkstančius, o atpažinti juos – sunkiau.

Šis straipsnis – visos serijos atspirties taškas. Detalės išdėstytos atskirai: DI fišingas ir kaip jį atpažinti, „deepfake“ sukčiavimas ir vishingas, OSINT ir vieša informacija, DI kaip gynyba ir LLM integracijų įsilaužimų testavimas.

Kodėl fišingas vis dar veikia

Fišingas nepuola technologijos. Jis puola žmogų, ir čia slypi visa paslaptis.

Kam laužti ugniasienę, jei slaptažodį darbuotojas atiduoda pats? Kam ieškoti sudėtingo pažeidžiamumo, jei kas nors atidaro priedą? Kam įsilaužti į banką, jei užtenka išgąsdinti žmogų paskyros blokavimu?

Fišingo laiškas dirba su emocijomis: baime, smalsumu, stresu, laiko spaudimu ir pasitikėjimu autoritetu. Tipiniai tekstai atrodo taip:

• „Siuntos pristatyti nepavyko. Patvirtinkite adresą.“
• „Paskyra bus užblokuota per 24 valandas.“
• „Prašome skubiai apmokėti pridėtą sąskaitą.“
• „Reikia patvirtinimo kodo, sprendžiame incidentą.“
• „Pridedu šiandienos susitikimo dokumentą.“

Anksčiau klastotę išduodavo prasta lietuvių kalba: praleistos nosinės, netaisyklinga žodžių tvarka ir matomi mašininio vertimo pėdsakai. Tuo remtis nebegalima. DI sklandžiai rašo lietuviškai, angliškai ir rusiškai, pataiko į įmonės toną ir sudėlioja laišką, kuris praeina kaip įprasto darbinio susirašinėjimo dalis.

Todėl tikrasis klausimas nebėra, ar laiškas parašytas taisyklingai. Klausimas – ar pats prašymas pagrįstas ir ar jį galima patvirtinti kitu kanalu.

Praktinį kontrolinį sąrašą surinkome straipsnyje DI fišingas ir kaip jį atpažinti.

Kaip DI stiprina socialinę inžineriją

Socialinė inžinerija sistemos nelaužia, o įtikina žmogų. Tikslas – įgyti pasitikėjimą ir sukurti situaciją, kurioje auka veikia greitai ir nieko netikrina.

DI padeda trijose vietose.

Pirmoji – kalba. Užpuolikas parašo lietuviškai, pats kalbos nemokėdamas. Tekstas gali skambėti oficialiai, draugiškai, vadovo balsu arba techniškai – priklausomai nuo to, kam skirtas. Prisideda ir tai, kad ta pati kampanija be papildomų sąnaudų išeina keliomis kalbomis iš karto: ir lietuviškai, ir angliškai, ir rusiškai.

Antroji – personalizacija. Užpuolikas perskaito LinkedIn, įmonės svetainę, pranešimus spaudai, darbo skelbimus, komentarus socialiniuose tinkluose ir viešus dokumentus. DI iš tų nuotrupų sudėlioja konkretų pasakojimą. Pavyzdžiui: „Sveiki, Tomai! Mačiau, kad komanda dirba prie naujo logistikos projekto. Pridedu patikslintą sutarties projektą.“

Trečioji – mastas. Šimto asmeniškai pritaikytų laiškų parengimas anksčiau trukdavo dienas. Dabar – minutes. Kampaniją galima greitai perkelti į kitą įmonę, kitą skyrių, kitą kalbą ir kitas pareigas.

Rezultatas – mažiau atsitiktinio šlamšto ir daugiau žinučių, kurios įsilieja į įprastą darbo dieną.

„Deepfake“ ir suklastoti balso skambučiai

Kita didelė rizika – „deepfake“ sukčiavimas. „Deepfake“, arba vaizdo klastotė, – tai dirbtinai sukurtas ar pakeistas garso, vaizdo ar nuotraukos turinys, apsimetantis tikru žmogumi. Praktiškai tai reiškia vieną dalyką: balsas telefone ir veidas ekrane nieko nebeidentifikuoja.

Šiandien didžiausia rizika – balsas, tai yra vishingas, arba balso fišingas. Užpuolikas mėgdžioja vadovo, kolegos, šeimos nario ar kliento balsą. Šiuolaikiniai įrankiai įtikinamą kopiją sukuria iš kelių sekundžių įrašo – iš vaizdo įrašo, tinklalaidės, internetinio susitikimo ar socialinio tinklo.

Tipinis scenarijus: į buhalteriją ateina skambutis. Balsas skamba kaip vadovo. Jis esą kelyje ir plačiau paaiškinti negali, o sąskaitą reikia apmokėti tuoj pat. Arba personalo skyrius gauna žinutę iš „darbuotojo“, kuriam esą pasikeitė banko sąskaitos numeris. Arba tėvai sulaukia skambučio iš „vaiko“, kuris pateko į bėdą ir kuriam skubiai reikia pinigų.

Lietuvoje ši schema ateina su vietine pakuote. Skambina neva banko saugumo tarnyba arba pareigūnas, pokalbio metu paprašoma veiksmą patvirtinti Smart-ID ar mobiliuoju parašu, ir žmogus pasirašo ne „saugumo patikrinimą“, o mokėjimą arba kredito paraišką. Šią grandinę nutraukia du paprasti įpročiai. Pirmas – padėti ragelį ir perskambinti pačiam banko svetainėje nurodytu numeriu, o ne tuo, iš kurio skambinta. Antras – sulyginti telefone matomą kontrolinį kodą su tuo, kurį rodo pati paslauga. Jei kodai nesutampa, veiksmas nutraukiamas.

Tai ne mokslinė fantastika. Taip DI perkelia sukčiavimą iš teksto į balsą ir vaizdą.

Požymius ir patikrinimo žingsnius surinkome straipsnyje „deepfake“ sukčiavimas ir vishingas.

OSINT: ką užpuolikas žino prieš parašydamas pirmą eilutę

OSINT – tai informacijos rinkimas iš viešai prieinamų šaltinių. Skamba techniškai, bet iš tikrųjų kalbama apie kasdienius dalykus: LinkedIn profilius, įmonių svetaines, konferencijų nuotraukas, darbuotojų sąrašus, darbo skelbimus, viešus registrus, socialinius tinklus ir komentarus po įrašais.

Lietuvoje ši medžiaga surenkama neįtikėtinai lengvai. Juridinių asmenų registras įvardija vadovą, teikiamos finansinės ataskaitos parodo apyvartą ir darbuotojų skaičių, o viešųjų pirkimų dokumentai – sutarčių sumas, kontaktinius asmenis ir neretai net naudojamą programinę įrangą. Darbo skelbimas, kuriame prašoma patirties su konkrečia sistema, užpuolikui pasako tai, ką kitaip reikėtų žvalgyti.

Užpuolikui tai – paruošta žaliava. Iš jos matyti, kas yra vadovas, kas sėdi buhalterijoje, kas prižiūri sistemas, kas yra tiekėjai ir kada kuris važiuoja į konferenciją.

DI iš tų detalių sudėlioja įtikinamą legendą. Nebeateina laiškas su kreipiniu „Gerbiamas kliente“. Ateina žinutė, kuri žino vardą, projektą, pareigas ir įmonės žodyną.

Vadinasi, kibernetinis saugumas prasideda ne tik nuo antivirusinės programos. Jis prasideda ir nuo to, ką patys paskelbiame apie save ir savo įmonę.

Praktinę šios temos pusę išdėstėme straipsnyje OSINT ir vieša informacija.

Aardvark, Mythos ir automatizuota pažeidžiamumų paieška

DI pertvarko ir techninę kibernetinio saugumo pusę. Naujausi modeliai skaito kodą, pastebi įtartinus dėsningumus, patikrina klaidas ir siūlo pataisymus. Gynėjams, programuotojams ir saugumo komandoms tai – rimtas laimėjimas.

Vienas pavyzdys – Aardvark, vėliau siejamas su Codex Security ir pristatytas kaip agentinis saugumo tyrėjas. Jo užduotis – analizuoti pirminį kodą, rasti programinės įrangos pažeidžiamumų, juos patvirtinti ir pasiūlyti pataisą.

Antras pavyzdys – Mythos Preview, kuris gebėjo pažeidžiamumus ir rasti, ir įrodyti, kad jie tikri. Gynybai tai gera žinia, nes tokie įrankiai klaidą gali rasti anksčiau, nei ja pasinaudos kas nors kitas. Kartu tai įspėjimas: jei DI padeda gynėjui, to paties įrankio norės ir užpuolikas.

Techninės detalės – išnaudojimo kodo sandara, operacinės sistemos branduolys, atminties klaidos – čia nesvarbios. Užtenka vieno principo: laikas nuo pažeidžiamumo atradimo iki pirmos atakos trumpėja. Todėl atnaujinimų, saugumo patikrinimų ir stebėsenos nebegalima atidėti „vėlesniam laikui“.

Pačių DI integracijų rizikas surinkome atskirai: LLM integracijų įsilaužimų testavimas.

DI gynybos pusėje: geras įrankis, blogas teisėjas

Dirbtinis intelektas – ne tik grėsmė. Gynybos pusėje tai stiprus įrankis: filtruoja fišingo laiškus, pastebi neįprastą elgseną, apibendrina incidentus, peržiūri žurnalus ir konfigūracijas, trumpina komandos reagavimo laiką.

Problema – ne DI. Problema – aklas pasitikėjimas.

DI gali padėti, bet spręsti vienas negali. Saugumas tebesiremia žmogaus priežiūra, aiškiomis taisyklėmis, patikrinimu, dviejų veiksnių autentifikacija, atsarginėmis kopijomis, atnaujinimais ir sveika nepasitikėjimo doze.

Gynėjo požiūrį išdėstėme atskirai: DI kaip gynyba.

Ką daryti praktiškai

Nė viena atskira programa šito neišsprendžia. Kartu veikia keli paprasti įpročiai ir keli techniniai sprendimai.

Pradėti verta nuo šito:

1. Skubius prašymus tikrinkite kitu kanalu. Jei kas nors prašo greito mokėjimo, perskambinkite žinomu numeriu – ne tuo, kuris nurodytas įtartinoje žinutėje.
2. Įjunkite dviejų veiksnių autentifikaciją. Lietuvoje patogiausi sprendimai – Smart-ID ir mobilusis parašas; tinka ir autentifikatoriaus programėlė ar aparatinis saugumo raktas. Kontrolinis kodas telefone turi sutapti su tuo, kurį rodo paslauga, o pasikliauti vien SMS kodu – silpniausias variantas.
3. Nespauskite nuorodų refleksiškai. Geriau adresą naršyklėje suveskite patys ir prisijunkite oficialioje svetainėje.
4. Darbuotojus mokykite reguliariai, o ne kartą per metus. DI fišingas keičiasi greitai, todėl kibernetinio saugumo mokymai veikia tik tada, kai jie praktiški.
5. Užrašykite taisykles dėl mokėjimų, sąskaitos numerio keitimo ir jautrių duomenų. Joks skubus prašymas negali apeiti kontrolės. Banko sąskaitos numerio keitimui tinka keturių akių principas ir atgalinis skambutis sutartyje nurodytu numeriu.
6. Atnaujinkite sistemas ir programas. Kuo greičiau DI randa klaidą, tuo daugiau reiškia pataisos tempas.
7. Peržiūrėkite, ką skelbiate apie savo įmonę. Mažiau viešų detalių reiškia mažiau šaudmenų užpuolikui.

Ar žmonės tikrą ataką atpažins, paskaita neparodo. Tai parodo socialinės inžinerijos testavimas: pagal rašytinį užsakovo leidimą ir sutartą apimtį suvaidintos žinutės ir skambučiai, po kurių matyti, kuri kontrolės grandis suveikė, o kuri – ne. Pačių DI ir LLM integracijų atsparumą tikriname atskirai – tai DI ir LLM įsilaužimų testavimas.

Ką dėl to sako Lietuvos teisė

Pareigos čia ne naujos. Nauja tik priežastis jas prisiminti.

NIS2 direktyva Lietuvoje perkelta ne atskiru įstatymu, o išdėstant Kibernetinio saugumo įstatymą nauja redakcija (Nr. XIV-2902); ji įsigaliojo 2024 m. spalio 18 d. Įsilaužimų testavimo ji neįvedė – nei kaip prievolės, nei kaip licencijuojamos veiklos. Testuotojams Lietuvoje nėra nei licencijų, nei registro.

Įvardytos yra trys kitos, greta stovinčios pareigos, ir jas verta skirti tarpusavyje. Kibernetinio saugumo reikalavimų aprašas (Vyriausybės nutarimas Nr. 945) 45.8 papunktyje numato ne rečiau kaip kas 6 mėnesius atliekamą viso masto spragų skenavimą; 48.1 papunktyje – kasmetinį atitikties vertinimą, kurį subjektas atlieka pats; o 48.3 papunktis kartu su Kibernetinio saugumo įstatymo 14 straipsnio 8 dalimi – ne rečiau kaip kas 3 metus atliekamą kibernetinio saugumo auditą. Nė viena iš šių trijų pareigų nėra įsilaužimų testavimas.

Terminai skaičiuojami kiekvienam subjektui atskirai: 12 mėnesių organizaciniams ir 24 mėnesiai išvardytiems techniniams reikalavimams nuo tos dienos, kurią tas subjektas užregistruojamas KSIS. Vienos visai rinkai bendros datos nėra, todėl ir pasirengimo kalendorius kiekvienoje įmonėje savas. Kai pažeidžiamumų paieška tampa automatizuota, tas kalendorius suspaudžiamas labiau, nei atrodo popieriuje.

Yra ir nuostata, kuri šio straipsnio temą paliečia tiesiogiai. Kibernetinio saugumo įstatymo 25 straipsnis nustato siauras sąlygas, kuriomis kibernetinio saugumo subjektų valdomose sistemose pažeidžiamumų galima ieškoti be išankstinio sistemos valdytojo sutikimo: apie radinį per 24 valandas pranešama Nacionaliniam kibernetinio saugumo centrui, patvirtinus pažeidžiamumą veikla nutraukiama, slaptažodžiai nespėliojami, o viešinimas atidedamas. Tarp tų pačių sąlygų aiškiai įrašytas draudimas manipuliuoti darbuotojais. Vadinasi, fišingo ar balso skambučių simuliacija į šį saugiklį nepatenka niekada – ji įmanoma tik pagal rašytinį užsakovo leidimą ir iš anksto sutartą apimtį.

Antra riba – asmens duomenys. Kampanijoje matoma, kas paspaudė ir kas pranešė, todėl tvarkymo pagrindas, apimtis ir saugojimo terminai turi būti sutvarkyti pagal BDAR. Priežiūros institucija Lietuvoje – Valstybinė duomenų apsaugos inspekcija.

Ir viena riba, kurią geriau pasakyti iš karto. HAXORIS – Slovakijoje registruota įmonė, o mūsų darbas yra techninis saugumo testavimas ir pasirengimo vertinimas. Kibernetinio saugumo įstatymo 14 straipsnio 8 dalyje numatyto kibernetinio saugumo audito neatliekame ir atitikties nesertifikuojame.

Išvada: pasikeitė ne tikslas, o atakų kokybė

Užpuolikų tikslas liko tas pats: pinigai, duomenys, prieiga ir pasitikėjimas. Pasikeitė įrankiai. Fišingo laiškas įtikinamesnis, klonuotas balsas skamba gyvai, OSINT greitesnis, o pažeidžiamumų paieška vis labiau vyksta savaime.

Gera žinia ta, kad gynybai sudėtingo sprendimo nereikia. Sveikas protas, patikrinimas kitu kanalu, dviejų veiksnių autentifikacija, mokymai, atnaujinimai ir aiškios vidaus taisyklės didžiąją dalį atakų padaro gerokai brangesnes.

Kibernetinis saugumas šiandien – ne tik IT skyriaus reikalas. Tai pasitikėjimo klausimas. DI amžiuje labiau nei bet kada tinka sena taisyklė: pasitikėk, bet patikrink.

DI kaip užpuolikas – dažniausiai užduodami klausimai

Susijusios Haxoris paslaugos: socialinės inžinerijos testavimas ir fišingo simuliacijos · AI ir LLM integracijų įsilaužimų testavimas