Organizācijām strauji paātrinot mākslīgā intelekta ieviešanu, jaunākais Microsoft Cyber Pulse ziņojums izgaismo būtisku pavērsienu: MI aģenti strauji kļūst par ikdienas darba sastāvdaļu, un drošība, pārvaldība un uzticamība tagad ir izšķiroši faktori, lai tos droši mērogotu.
Saskaņā ar ziņojumu vairāk nekā 80% no Fortune 500 sarakstā iekļautajiem uzņēmumiem visā pasaulē jau izmanto MI aģentus, turklāt daudzi no tiem ir izveidoti ar low-code un no-code rīkiem, ko izmanto netehniskie darbinieki. Vienlaikus tikai 47% organizāciju ir ieviesušas īpašus drošības kontroles mehānismus ģeneratīvajam MI, un 29% darbinieku atzīst, ka darba uzdevumu veikšanai izmanto nesankcionētus MI aģentus.
Nozares, piemēram, finanšu pakalpojumi, ražošana, koplietojamo pakalpojumu centri un digitāli orientēti publiskie pakalpojumi, saskaņā ar Microsoft telemetrijas datiem ir starp globālajiem līderiem MI aģentu ieviešanā. Tas padara pārvaldību īpaši nozīmīgu, jo MI aģenti arvien biežāk apstrādā sensitīvus datus, automatizē lēmumu pieņemšanu un mijiedarbojas ar klientiem un iekšējām sistēmām.
Cyber Pulse ziņojums brīdina, ka MI aģenti paši par sevi nav riskanti, taču nepārvaldīti aģenti var kļūt par drošības “aklo zonu”, līdzīgi kā nepārvaldīti lietotāju konti vai ēnu MI risinājumi. Microsoft MI Red Team pētījumi liecina, ka bez atbilstošiem aizsardzības mehānismiem aģentus var novirzīt no paredzētā mērķa ar manipulētiem ievaddatiem vai neskaidru uzdevumu formulējumu, tādējādi uzsverot centralizētas uzraudzības un skaidru noteikumu nepieciešamību.
“Baltijas valstu organizācijas ir ļoti ambiciozas digitālās transformācijas jomā, un MI aģenti ir loģisks nākamais solis,” norāda Renāte Strazdiņa, Ziemeļeiropas daudzu valstu klastera nacionālā tehnoloģiju direktore uzņēmumā Microsoft. “Tomēr ātrumam jāiet roku rokā ar uzticamību. Cyber Pulse ziņojuma vēstījums ir skaidrs: MI aģenti jāuztver kā digitāli darbinieki — ar skaidri definētām lomām, ierobežotu piekļuvi un nepārtrauktu uzraudzību. Tie, kuri drošību un pārvaldību iestrādā jau no paša sākuma, varēs ieviest inovācijas ātrāk un ar lielāku pārliecību.”
Microsoft uzsver, ka MI aģentu drošības nodrošināšana nenozīmē inovāciju palēnināšanu, bet gan ilgtspējīgas izaugsmes veicināšanu. Cyber Pulse ziņojumā ir izklāstītas piecas pamatjomas drošai MI aģentu ieviešanai: centralizēta visu aģentu pārskatāmība, minimālo piekļuves tiesību princips, reāllaika uzraudzība, savietojamība starp platformām un iebūvēti drošības mehānismi.
Ņemot vērā gaidāmās normatīvās prasības, piemēram, EU AI Act, organizācijas, kas savlaicīgi investēs pārvaldībā, caurskatāmībā un drošībā, būs labāk sagatavotas atbilstības nodrošināšanai, vienlaikus saglabājot klientu un partneru uzticību.
Metodoloģija
Cyber Pulse ziņojums balstīts uz Microsoft pirmās puses telemetrijas datiem par aktīvajiem MI aģentiem, kas izveidoti ar Microsoft Copilot Studio un Agent Builder, kā arī uz 2025. gadā veikto starptautisko aptauju, kurā piedalījās 1 725 datu drošības vadītāji.
