Mākslīgais intelekts izlaužas no rāmjiem un ielaužaz citā, pilnīgi svešā uzņēmumā. Āķis? OpenAI to tā nebija paredzējis.
Kā gadījies, kā ne, OpenAI mākslīgā intelekta modelis testēšanas laikā patstāvīgi “izbēga” no izolētās vides, pieslēdzās internetam un uzlauza mākslīgā intelekta (MI) uzņēmumu Hugging Face. Savā būtībā nekas tāds – parasts kiberuzbrukums -, taču šo notikumu par biedējošu padara fakts, ka šīs norādes nesniedza cilvēks, proti, modelis šo izdarīja patvaļīgi.
Tas izklausās pēc zinātniskās fantastikas sižeta – taču tas notika pagājušajā nedēļā Sanfrancisko.
Upuris bija Hugging Face – labi zināma mākslīgā intelekta modeļu un datu kopu platforma, kuru OpenAI modelis izvēlējās pats, loģiski secinot, ka datu bāze satur atbildes uz testa jautājumiem, ko tam bija uzdots atrisināt.
Šis bezprecedenta gadījums norāda uz skaudru realitāti, kur drošības robežas ir iespējams apiet pat bez cilvēka iesaistes, kā arī aktualizējas jautājums par to, vai mākslīkgajam intelektam piemīt sava griba.
Kā OpenAI mākslīgā intelekta modelis uzlauza Hugging Face
OpenAI testēja vairākus savus jaudīgākos modeļus, tostarp nesen publiskoto GPT-5.6 Sol un vēl jaudīgāku modeli, kas vēl nav publiski pieejams, tā dēvētajā smilšu kastē, kas teorētiski ir pilnīgi izolēta vide bez piekļuves internetam. Modelim tika dota instrukcija – izmantojot “sarežģītus uzbrukuma ceļus” pārbaudīt, cik labi tas spēj ekspluatēt datorsistēmas.
Modelis atrada neizlabotu ievainojamību pakotņu instalācijas sistēmā, ko OpenAI bija atstājis smilšu kastē. Izmantojot šo ievainojamību, tas izkļuva no izolētās vides, patstāvīgi pieslēdzās internetam un secināja, ka Hugging Face (kā vadošā mākslīgā intelekta datu repozitorija) visticamāk satur datus, kas palīdzētu izpildīt testa uzdevumu.
Tad tas izstrādāja plānu, kā ielauzties Hugging Face serveros, izmantoja nozagtus piekļuves kodus un nokļuva pie meklētās informācijas.
Džordžtaunas universitātes Drošības un jaunās tehnoloģijas centra kiberdrošības pētnieks Kolins Šīja-Blaimerss šo mākslīgā intelekta kiberuzbrukumu raksturojis kā “augstāko autonomijas līmeni, kāds jebkad novērots liela valodas modeļa kiberoperācijās.”
Cilvēciskā kļūda vai modeļa brīva griba?
Šeit sākas filosofiskā un juridiskā debata par mākslīgā intelekta drošību. OpenAI savā paziņojumā aprakstīja notikušo kā “bezprecedenta kibernoziegumu”, kurā modeļi “rīkojās patstāvīgi”. Taču vairāki kiberdrošības eksperti šādu formulējumu apstrīd.
Amsterdamas Universitātes sociālzinātnieks Hanness Kūlss norādījis, ka “mākslīgais intelekts, kas noiet no ceļa” ir maldīgs jēdziens – “Cilvēcisks lēmums bija atslēgt konkrētus drošības mehānismus. Tādejādi mākslīgais intelekts pats neizlēma veikt noziegumu. Tas izpildīja konkrētas instrukcijas, pamatojoties uz uzdoto.”
Kiberdrošības pētnieks Dens Gvido, kurš dibinājis Trail of Bits, to formulēja precīzāk: “Tas bija iekļaušanas fiasko ar izslēgtiem drošinātājiem.” Viņa kolēģis Džeiks Viljamss pievienojis: “Viens cilvēks saka – “modelis izbēga no smilšu kastes”. Cits saka – “jūs neuzbūvējāt smilšu kasti pareizi, tāpēc, protams, tas izbēga.””
OpenAI tika vaicāts, vai smilšu kasti iestatīja cilvēks vai pats mākslīgā intelekta modelis. Atbilde uz šo jautājumu netika sniegta.
Vēl interesants jautājums ir par to, kurš tiks sodīts šajā pāridarījumā. Ja šādu ielaušanos būtu paveicis cilvēks, skaidrs, ka sekotu izmeklēšana un cietumsods. Kā rīkoties situācijā, kad to izdara mākslīgā intelekta modelis – nevienam nav skaidrs.
Situāciju glābj ķīnieši
Ironiski, ka Hugging Face uzbrukuma seku novēršanai nevarēja izmantot vadošos ASV mākslīgā intelekta modeļus. Hugging Face izpilddirektors Klemāns Delange paskaidroja, ka OpenAI, Anthropic un citu ASV smagsvaru modeļi ar iebūvētiem drošības ierobežojumiem nevarēja analizēt uzbrukuma datus, proti, to drošības sistēmas nespēja atšķirt uzbrucēja kodu no aizstāvja koda un atteicās to apstrādāt.
Risinājums nāca no Ķīnas. Hugging Face izmantoja Zhipu AI modeļa GLM-5.2, lai analizētu uzbrukumu un saturētu tā sekas. Tas deva arī iespēju saglabāt uzbrukuma datus un piekļuves kodus savā infrastruktūrā, nenosūtot tos uz ārējiem serveriem.
Hugging Face līdzdibinātājs Tomass Volfs no tā izdarīja skaidru secinājumu: “Kad robežklases modelis uzbrūk un pārvietojas pa jūsu infrastruktūru, aizstāvjiem ir nepieciešama plaša piekļuve gandrīz robežklases rīkiem stundās vai pat minūtēs, nevis jāgaida aiz slēgtām durvīm ar ierobežotu piekļuvi programmām.”
Ko OpenAI mākslīgā intelekta uzbrukums nozīmē nākotnei
Šis incidents nav kārtējais kiberuzbrukums. Autonoma ielaušanās citā sistēmā ir notikums, kuru neviens nevēlēja redzēt realizējamies. Katrā Anthropic jaunā Mythos modeļa testā modelis spēja daļēji izbēgt no izolētās vides. OpenAI modelis šoreiz izbēga pilnībā.
Luta Security izpilddirektore Keitija Mussūrisa mākslīgā intelekta modeļu spējas salīdzināja ar “pasaulē gudrakajiem astoņkājiem, kuriem ir neierobežots daudzums taustekļu un spēja piekļūt visam un visur”.
Viņa uzsvēra, ka “laboratorijām un valdības vērtētājiem ir nepieciešama spēja iekļaut, uzraudzīt un informēt skartās puses, kad mākslīgais intelekts izpilda jaunu Hudīni – ideālā gadījumā pirms tas nodara kaitējumu trešajai pusei. Šodien tādu spēju nav.”
ASV Kongresmens Gregs Kasārs aicināja uz obligātu neatkarīgu drošības testēšanu, obligātu drošības incidentu atklāšanu un starptautisku sadarbību. “Mākslīgais intelekts attīstās ārkārtīgi ātri, bez reāliem noteikumiem, lai mūs aizsargātu,” sacīja Kasārs.
OpenAI paziņojis, ka pastiprina mākslīgā intelekta drošības mehānismus un ir atbildīgi atklājis atrasto ievainojamību. Taču ir vērts jautāt – ja OpenAI, lielākais mākslīgā intelekta uzņēmums pasaulē, nespēja pilnīgi izolēt savu modeli, vai vispār ir garantija, ka tas izdosies citiem?
Avoti: Reuters, TechCrunch,
