Mākslīgais intelekts kā aizsardzība: kur MI kiberdrošībā tiešām palīdz

Iepriekšējos rakstos aplūkojām, kā uzbrucēji izmanto mākslīgo intelektu: pikšķerēšanai, viltotām balsīm, publiskās informācijas vākšanai un ievainojamību meklēšanai. Šī aina ir tikai puse.

Aizsardzības pusē mākslīgais intelekts (turpmāk – MI) sver tikpat daudz. Tas ir rīks. Aizstāvja rokās tas uzlabo kiberdrošību: izsijā aizdomīgas vēstules, izlasa cauri notikumu žurnālu kalniem, saīsina reaģēšanas laiku un noņem komandai daļu roku darba.

Uzbrucēja pusi apraksta divi raksti: MI kā uzbrucējs un LLM integrāciju ielaušanās testēšana.

Sociālās inženierijas pusi – trīs praktiski ceļveži: MI pikšķerēšana, deepfake krāpšana un vishing un OSINT un MI.

Kāpēc drošības komandai ar rokām vairs nepietiek

Mūsdienu organizācija nepārtraukti atstāj digitālas pēdas: e-pasta sarakste, pieteikšanās, mākoņa notikumi, tīkla plūsma, lietotņu un darbstaciju žurnāli, tiesību izmaiņas, neizdevušies pieteikšanās mēģinājumi un drošības rīku brīdinājumi.

Nelielā uzņēmumā dienā rodas tūkstošiem notikumu, lielākā organizācijā – miljoni. Manuāli tiem neviens neiziet cauri. Tieši šeit sākas MI loma kiberdrošībā: tas atrod likumsakarības, novirzes un sakarības datu apjomā, ko cilvēks vairs nepārredz.

Latvijā pievienojas vēl viens apstāklis, un tas maina sarunu. Vidusmēra pircējam nav savas drošības operāciju komandas: IT ir viens vai divi cilvēki, daļa uzturēšanas nodota ārpakalpojumā, un drošības rīku loma bieži aprobežojas ar to, kas jau ietilpst Microsoft 365 vai Google Workspace licencē. Tāpēc, kad piedāvājumā parādās „MI mūsu drošības operāciju centrā“, ir vērts pajautāt vienkāršu lietu: kurš cilvēks skatīsies šī rīka brīdinājumus piektdienas vakarā un cik ilgi viņš to darīs, pirms sāks tos aizvērt nelasot.

Kā MI izsijā pikšķerēšanu

Pikšķerēšana ir tā joma, kurā aizsardzības pusē MI dod visvairāk. Mūsdienīgs pikšķerēšanas filtrs vairs nemeklē tikai zināmas ļaunprātīgas saites. Tas vērtē vēstules valodu, sūtītāja reputāciju, domēna līdzību, pielikuma tipu, saites uzvedību un vēl vairākus desmitus signālu.

Tā pārbaudē nonāk arī vēstule, kurā nav neviena zināma vīrusa, bet kaut kas tāpat nesakrīt: tā steidzina, prasa piekļuves datus, ved uz neparastu saiti vai izliekas par iekšēju saraksti.

Neviens filtrs nenoķer visu. Tehnoloģija ir vērtīga tad, ja aiz tās stāv apmācīti cilvēki: filtrs nokrata uzbrukumu masu, bet atlikušo atpazīst jau cilvēks.

Kāpēc latviešu valoda vairs nav pazīme

Latvijā gadiem strādāja viena vienkārša mēraukla. Ja vēstule bija latviski ar trūkstošām garumzīmēm, ar svešiem teikuma modeļiem un ar vārdiem, kurus dzīvs cilvēks nelieto, tā bija krāpšana. Pēc šīs pazīmes darbinieki mācījās atpazīt uzbrukumus, un daudzās apmācību prezentācijās tā joprojām stāv pirmajā vietā.

Šī mēraukla ir zudusi. Valodas modelis latviski raksta pareizi: ar garumzīmēm un mīkstinājuma zīmēm, ar pareiziem locījumiem, iestādes vai grāmatvedības tonī un ar Latvijā lietotu vārdu krājumu. Uzbrucējam vairs nav vajadzīgs latviešu valodas pratējs komandā, un tieši tas ir izmaiņas kodols. Agrāk mazā valoda pati par sevi bija barjera – neliela, bet reāla. Tagad pietiek ar vienu norādījumu modelim.

No tā izriet divi secinājumi. Pirmais: apmācībā vairs nav vērts likt cilvēkiem meklēt valodas kļūdas, jo šī pazīme nostrādā arvien retāk. Otrais ir mazāk pamanāms. Komerciālo filtru valodas modeļi lielākoties ir mācīti galvenokārt uz angļu valodas materiāla, tāpēc latviešu vēstulē valodas signāls ir vājāks nekā angļu vēstulē.

Tehniskie signāli turpretī nemainās. Sūtītāja domēna vecums un līdzība īstajam, domēna autentifikācijas ieraksti SPF, DKIM un DMARC, atbildes adrese, kas nesakrīt ar sūtītāja adresi, saites patiesais galamērķis un pielikuma tips strādā vienādi latviski, angliski un jebkurā citā valodā. Tieši uz tiem mazā valodā ir vērts likt uzsvaru. Izvēloties rīku, jautājums piegādātājam ir viens: kā filtrs strādā ar latviešu valodu un uz kāda materiāla tas ir mācīts? Atbilde „modelis ir daudzvalodu“ nav atbilde.

Ko MI pamana uzraudzībā

Drošības uzraudzība seko tam, kas notiek sistēmās. MI šeit izceļ neparastu uzvedību un palīdz atklāt kiberdraudus.

Daži tipiski signāli:

• lietotājs piesakās no valsts, no kuras nekad agrāk nav pieteicies,
• konts pēkšņi lejupielādē neparasti daudz datu,
• darbinieks mēģina piekļūt sistēmai, ko ikdienā nelieto,
• iekārta sazinās ar aizdomīgu domēnu,
• naktī pēc kārtas pienāk neizdevušies pieteikšanās mēģinājumi,
• administratora konts veic neparastas izmaiņas.

Viens notikums pats par sevi vēl nav incidents. MI turpretī saliek signālus kopā un parāda, ka tie jau veido ainu. Praksē tas strādā līdzās SIEM, EDR un mākoņa drošības rīkiem.

Latvijas kontekstā ir vērts atcerēties vienu tehnisku sīkumu. Ģeogrāfiskā novirze pati par sevi šeit ir troksnis. Darbinieki brauc uz Igauniju un Lietuvu, izmanto mobilo internetu ar mainīgu adresi, un attālinātais darbs caur ārvalstu pakalpojuma sniedzēju ārējā adresē var izskatīties pēc citas valsts. Modelis, kas nav redzējis parasto darba ritmu, pirmajās nedēļās šādas lietas ziņo simtiem reižu. Tāpēc rīkam vispirms vajag mācīšanās periodu un cilvēku, kurš pasaka, kas šajā organizācijā ir normāli. Bez tā rezultāts ir prognozējams: pēc mēneša brīdinājumus vairs neviens nelasa.

Kā MI paātrina reaģēšanu uz incidentiem

Incidentā laiks ir izšķirošs. Komandai īsā laikā jāsaprot, kas notika, kuru tas skar, kuras sistēmas ir jānoslēdz un kāds ir nākamais solis.

MI apkopo notikumu secību, iesaka turpinājumu, sakārto darbus pēc svarīguma un sagatavo īsu kopsavilkumu lēmumu pieņēmējiem. Šeit visvairāk noder LLM: analītiķim vairs nav stundām jārok cauri žurnāliem un brīdinājumiem. Tā ir reaģēšana uz incidentiem, kurā pirmā stunda paiet, saprotot notikušo, nevis meklējot, kur tas pierakstīts.

Šāds kopsavilkums izskatās aptuveni tā: „Lietotāja konts ir pārņemts. Vispirms bija pieteikšanās no neparastas vietas, pēc tam tika izveidota jauna pasta pāradresācijas kārtula, visbeidzot – mēģinājums piekļūt koplietotiem dokumentiem.“

Laiku tas tiešām ietaupa. Rezultātu tomēr pārbauda cilvēks.

Latvijā šim ietaupījumam ir konkrēta vērtība. Kiberincidentu ziņošanas termiņi ir īsi, un tos skaita no incidenta konstatēšanas brīža, nevis no izmeklēšanas beigām. Pirmais ziņojums tāpēc top tad, kad aina vēl nav pilnīga, un tieši šeit MI apkopojums noder visvairāk: tas ātrāk saliek notikumu secību, no kuras var uzrakstīt, kas jau ir zināms un kas vēl nav. Ko ziņojumā ierakstīt, izlemj cilvēks, jo kļūdains fakts uzraudzības iestādei izmaksā dārgāk nekā stunda kavējuma.

Kā MI palīdz izstrādātājiem

MI noder arī izstrādē. Tas pārskata kodu, izceļ riskantas vietas, iesaka drošāku risinājumu un vienkāršā valodā izskaidro problēmu.

Tas ir svarīgi, jo drošības speciālistu ir maz. Izstrādātājs strādā uz termiņu, un drošība no viņa skatpunkta bieži izskatās pēc bremzes. Kļūdu, ko MI noķer jau rakstīšanas laikā, izlabot ir lētāk un ātrāk nekā to pašu kļūdu pēc incidenta.

Vienlaikus MI nav attaisnojums vājam procesam. Bez koda caurskates, testēšanas, drošības prasībām un skaidras atbildības tas nestrādā. Un vēl viena robeža: rīks pazīst tikai tādas kļūdas, kādas jau ir redzējis. Tiesību modeļa caurumu, kurā viens klients redz otra pasūtījumus, tas nepamana tāpat kā ievainojamību skenēšana – tāpēc, ka nezina, kas konkrētajā lietotnē ir atļauts.

Klāt nāk jauns apstāklis. Daļa koda tagad rodas turpat MI palīga logā, un līdz ar to biežāk parādās kļūdas, kas agrāk gadījās retāk: pārkopētas piekļuves atslēgas, novecojušas bibliotēkas un ieteikumi, kas atkārto internetā biežāk sastopamo, nevis drošāko variantu. Tas, ka kodu uzrakstīja MI, pārbaudes soļus pirms publicēšanas nemaina.

Ko MI dod apmācībās

Laba kiberdrošības apmācība nav reizi gadā nolasīta garlaicīga prezentācija. MI palīdz salikt dzīvīgus, bet drošus mācību scenārijus.

Simulētās pikšķerēšanas vēstules var pielāgot lomai: viena grāmatvedībai, cita pārdošanai, trešā personāla daļai. Tā darbinieks trenējas situācijā, ar kādu tiešām sastopas savā darbā.

Latvijā pievienojas valodas jautājums, un tas nav sīkums. Ja mācību vēstule ir angliski, bet reālais uzbrukums pienāk latviski, treniņš pārbauda valodas prasmi, nevis modrību. Scenārijiem ir vērts būt latviski un ar Latvijā atpazīstamu ietvaru: rēķins no piegādātāja, vēstule it kā no grāmatvedības, paziņojums par sūtījuma piegādi, valsts iestādes veidlapa. Kā tas notiek praksē, aprakstīts darbinieku kiberdrošības apmācību lapā, bet plašāku uzbrukuma pusi sedz sociālā inženierija.

Kur MI beidzas

MI kļūdās. Tas pazaudē kontekstu, par incidentu nosauc ikdienas darbu vai novērtē par zemu reālu risku.

Aizsardzības pusē lielākie riski ir šādi:

• akla uzticēšanās ieteikumam,
• slikti iestatīts rīks,
• trūkstoša cilvēka uzraudzība,
• jutīgu datu noplūde nepiemērotā MI rīkā,
• kļūdaini pozitīvi konstatējumi,
• neskaidra atbildība.

Noteikums ir vienkāršs: MI iesaka un palīdz, cilvēks izlemj.

Ceturtais punkts Latvijā visbiežāk nonāk pie jurista. Vispārīgās datu aizsardzības regulas (VDAR jeb GDPR) izpratnē publiskā MI rīkā iekopēts klientu saraksts, līguma projekts vai incidenta žurnāls ir personas datu apstrāde ar visām no tā izrietošajām sekām: apstrādes pamats, nodošana ārpus Eiropas Ekonomikas zonas, glabāšanas termiņš un jautājums, vai rīka sniedzējs ievadīto materiālu izmanto modeļa mācīšanai. Uzraudzības iestāde šajos jautājumos ir Datu valsts inspekcija. Praktiskā izeja nav visaptverošs aizliegums, ko tāpat neviens neievēro, bet īss saraksts: kuri rīki ir apstiprināti, kādi dati tajos drīkst nonākt un kas notiek ar līgumiem, klientu datiem un incidentu žurnāliem.

Ko organizācijai ieviest

1. Izlemiet, kādi dati drīkst nonākt MI rīkos.

Jutīgai informācijai nav ko darīt nejauši izvēlētā publiskā rīkā. Sarakstam ir vērts būt īsam un rakstiskam, citādi to neatceras neviens.

2. Pierakstiet MI lietošanas noteikumus.

Bez tiem katrs izlemj pats, un noteikumi rodas tikai pēc pirmās noplūdes.

3. Lietojiet MI tur, kur tas mazina risku.

Pikšķerēšanas filtrs, uzraudzība, incidentu kopsavilkumi, koda caurskate un SOC automatizācija.

4. Atstājiet pēdējo vārdu cilvēkam.

Īpaši incidentā, konta bloķēšanā un lēmumos, kas skar darbības nepārtrauktību.

5. Mēriet rezultātu.

Pārbaudiet, vai incidentu tiešām kļuva mazāk, vai tikai brīdinājumu kļuva vairāk.

6. Klasiskā aizsardzība paliek.

Daudzfaktoru autentifikācija, rezerves kopijas, atjauninājumi, minimāli nepieciešamo tiesību princips un zero trust joprojām ir pamats. Latvijā otro faktoru visērtāk dod Smart-ID vai eParaksts mobile, un tie strādā arī tad, kad neviens MI rīks vēl nav nopirkts.

Vai MI aizstāj drošības kultūru

Rīki var būt izcili. Ja neviens nezina, kam ziņot par aizdomīgu vēstuli, ja maksājumus apstiprina steigā un ja kontos nav daudzfaktoru autentifikācijas, MI nepalīdz.

Kiberdrošība saliekas no cilvēkiem, procesa un tehnoloģijas. MI pieder tehnoloģijai, bet, kamēr tas nav iebūvēts procesā un kamēr cilvēki to nesaprot, tas maina maz.

Ko MI Latvijas regulējumā neizpilda

Vienu robežu ir vērts nosaukt tieši, jo iepirkumos tā mēdz sajaukties.

Nacionālās kiberdrošības likuma (turpmāk – NKDL) 25. panta piektās daļas 2. punkts uzliek kiberdrošības pārvaldniekam pienākumu ne retāk kā reizi gadā veikt informācijas un komunikācijas tehnoloģiju drošības pārbaudi un atbilstoši tās rezultātiem organizēt konstatēto trūkumu novēršanu. Ne likums, ne Ministru kabineta 2025. gada 25. jūnija noteikumi Nr. 397 „Minimālās kiberdrošības prasības“ nepasaka, ka šo pārbaudi var aizstāt ar MI rīka atskaiti. Pārbaudei vajadzīgs tvērums, datumi, pārbaudīti konstatējumi un pierādāma novēršana.

MI rīki šajā ainā ir ikdienas aizsardzības slānis, nevis pierādījums. Pierādījumu rada ielaušanās testēšana ar ziņojumu, kurā redzams, kas tika testēts, kad, ko testētājs atrada un kas ar konstatējumiem izdarīts tālāk. Cik bieži un kam tas jādara, sīkāk izsvērts rakstā par to, vai ielaušanās testēšana ir obligāta.

Otra puse ir tikpat svarīga. Ja organizācija MI iepērk pati vai iebūvē to savā produktā, modelis kļūst par jaunu uzbrukuma virsmu: prompt injection jeb modelim paslēptas komandas, piekļuve datiem caur rīka integrācijām un pārāk plašas tiesības starp modeli un iekšējām sistēmām. Šo pārbauda MI un LLM integrāciju ielaušanās testēšana, nevis parasta lietotņu caurskate. Kā ģeneratīvie modeļi noder pašam analītiķim, aprakstīts rakstā par ģeneratīvā MI izmantošanu.

Un vēl viena robeža, ko labāk pateikt uzreiz. HAXORIS ir Slovākijas uzņēmums. Mūsu darbs ir tehniska drošības testēšana un gatavības novērtēšana; NKDL 44. pantā noteikto atbilstības auditu neveicam.

MI nav autopilots bez vadītāja

Lielākā kļūda ir domāt, ka MI visu nokārtos pats. Drošībai vajag kontekstu: kuras sistēmas ir kritiskas, kam ir piekļuve, kas ir normāla uzvedība un kas ir izņēmums.

Tāpēc ir svarīgs human-in-the-loop princips jeb cilvēks lēmumu ķēdē. MI iesaka, brīdina, sakārto vai izskaidro. Cilvēks apstiprina, noraida vai pieliek kontekstu.

Bez šī soļa MI kļūda automātiski pārtop par darbību, un tieši tas ir dārgākais scenārijs: bloķēts vadītāja konts ceturkšņa slēgšanas dienā vai brīdinājums, ko rīks pats noklasificēja par troksni un neviens vairs nepārbaudīja.

Kopsavilkums

MI aizsardzībā ieņems arvien lielāku vietu: izsijās pikšķerēšanu, pamanīs novirzes, apkopos incidentus, atradīs kļūdas kodā un padarīs apmācības dzīvīgākas.

Tas nav burvju vairogs. Tas ir pastiprinātājs. Labs drošības process ar to kļūst ātrāks un labāks. Haoss ar to kļūst ātrāks tikpat sekmīgi.

Latvijai klāt nāk vietēja piezīme: valodas barjera, kas gadiem strādāja šejienes organizāciju labā, ir zudusi, bet tehniskie signāli un cilvēku modrība nav. Uz tiem arī ir vērts likt uzsvaru.

Secinājums ir īss: izmantojiet MI, bet neļaujiet tam izlemt vienam. Tas ir palīgs, nevis autopilots.

MI kā aizsardzība – biežāk uzdotie jautājumi

Saistītie Haxoris pakalpojumi: MI un LLM integrāciju ielaušanās testēšana