OpenAI brīdina, ka attīstītāki mākslīgā intelekta modeļi nākotnē varētu veikt kiberuzbrukumus. Uzņēmuma globālo lietu vadītājs Kriss Lehane (Chris Lehane) aicina ieviest stingrākus drošības standartus laikā, kad MI sistēmas kļūst arvien spējīgākas patstāvīgi plānot un īstenot sarežģītas darbības.
MI varētu rīkoties bez nepārtrauktas cilvēka iesaistes
Lehane norāda, ka arvien jaudīgāki MI modeļi spēj veikt sarežģītas vairāku soļu darbības. Kiberuzbrukumu gadījumā tas varētu nozīmēt sistēmas, kas pašas meklē ievainojamības, pielāgo savu taktiku un turpina uzbrukumu bez cilvēka nepārtrauktas iesaistes.
Šāds scenārijs vairs nav tikai teorētisks. Jūlijā OpenAI iekšējas kiberdrošības pārbaudes laikā uzņēmuma modeļi atrada veidu, kā izkļūt ārpus tiem paredzētās izolētās testēšanas vides un iegūt piekļuvi internetam.
Modeļi izmantoja iepriekš nezināmu jeb tā saukto zero-day ievainojamību, bet pēc tam apvienoja vairākas citas uzbrukuma metodes, lai piekļūtu Hugging Face infrastruktūrai. OpenAI notikušo raksturojis kā līdz šim nepieredzētu MI izraisītu kiberdrošības incidentu.
Svarīgi gan piebilst, ka pārbaude tika veikta īpaši izveidotā vidē ar samazinātiem kiberdrošības ierobežojumiem, lai noskaidrotu modeļu maksimālās spējas. Uzņēmuma gaidāmais Astra modelis šajā incidentā nebija iesaistīts.
Astra tuvojas jaunam kiberspēju līmenim
Atsevišķās iekšējās pārbaudēs OpenAI secinājis, ka nevar izslēgt iespēju, ka topošais Astra modelis jau sasniedz uzņēmuma definēto kritisko kiberdrošības spēju slieksni. OpenAI par kritisku līmeni uzskata situāciju, kurā modelis bez cilvēka palīdzības spētu atrast un izmantot līdz šim nezināmas ievainojamības labi aizsargātās sistēmās vai patstāvīgi izplānot un īstenot pilnu kiberuzbrukumu, saņemot tikai vispārīgu mērķi.
Reaģējot uz pieaugošajām modeļu spējām, OpenAI uz divām nedēļām apturēja daļu jaunāko modeļu pastiprinātās mācīšanās treniņu. Uzņēmuma lielākais plānotais nākamās paaudzes modeļa treniņš joprojām ir apturēts, kamēr tiek veiktas mazāka mēroga pārbaudes un pastiprināti drošības mehānismi.
Uzņēmums arī ieviesis plašāku MI darbības uzraudzību. Tā seko līdzi modeļu veiktajām darbībām un meklē pazīmes, kas varētu liecināt par neatļautu piekļuvi, datu zādzību vai mēģinājumiem apiet drošības ierobežojumus. Šāda uzraudzība gan nav lēta. OpenAI lēš, ka tā pašlaik var prasīt aptuveni 20% papildu skaitļošanas jaudas salīdzinājumā ar paša modeļa darbināšanu.
Ar MI drošības filtriem vien var nepietikt
Lehane uzskata, ka līdz ar modeļu spēju pieaugumu nepieciešami arī stingrāki drošības standarti. Viņš aicinājis ASV noteikt prasības, kas liktu uzņēmumiem pierādīt pietiekamu modeļu drošību vēl pirms to publiskas izlaišanas.
Līdzīgas bažas pauž arī Lielbritānijas Nacionālais kiberdrošības centrs (NCSC). Tā jaunākajos ieteikumos organizācijas aicinātas rūpīgi ierobežot autonomo MI aģentu piekļuvi sistēmām un saglabāt iespēju tos nekavējoties apturēt. NCSC uzsver, ka ārkārtas situācijā ar vienkāršu MI procesa izslēgšanu var nepietikt. Organizācijām jāspēj arī pārtraukt aģenta piekļuvi tīklam un citām sistēmām, lai nepieļautu turpmāku nevēlamu darbību.
Tas nenozīmē, ka pilnībā autonomi MI hakeri jau nepārtraukti uzbrūk uzņēmumiem. Taču Anthropic 2025. gadā, piemēram, atklāja kiberizspiegošanas kampaņu, kurā Claude Code patstāvīgi veica aptuveni 80–90% taktisko darbību, kamēr cilvēki galvenokārt noteica mērķus un vadīja operāciju. Tas parāda, ka robeža starp teorētisku risku un reāli izmantojamu autonomu uzbrukumu strauji samazinās.
Vienlaikus MI var kļūt arī par vienu no svarīgākajiem kiberdrošības aizsardzības rīkiem. OpenAI prognozē, ka nākotnē arvien lielāku daļu drošības darba veiks paši modeļi, tostarp palīdzot aizsargāt sistēmas pret citu MI veiktajiem uzbrukumiem.
Avoti: The Guardian, OpenAI, OpenAI, NSCS, Anthropic
