Mākslīgais intelekts pēdējos gados ir kļuvis par vienu no spēcīgākajiem instrumentiem tehnoloģiju pasaulē. Taču tagad viena no jaudīgākajām MI sistēmām ir nonākusi strīdu centrā – vai šādu tehnoloģiju ierobežošana padara internetu drošāku, vai tieši pretēji – ievaino tos, kuri cenšas to aizsargāt?
Vairāki desmiti kiberdrošības ekspertu ir vērsušies pie ASV valdības ar atklātu vēstuli, aicinot pārskatīt lēmumu ierobežot piekļuvi uzņēmuma Anthropic jaunākajiem MI modeļiem Claude Fable un Mythos. Eksperti uzskata, ka šāds aizliegums var radīt pretēju efektu – vājināt drošības speciālistu spējas aizsargāt sistēmas pret kiberuzbrukumiem.
MI, kas spēj atrast kļūdas kodā
Anthropic izstrādātie modeļi tika veidoti kā īpaši spēcīgi MI rīki, kas spēj analizēt sarežģītu programmatūras kodu un palīdzēt atklāt drošības problēmas.
Īpaši daudz uzmanības izpelnījās Mythos modelis, kuru uzņēmums sākotnēji piedāvāja ierobežotam organizāciju lokam. Tā spēja identificēt ievainojamības bija tik augsta, ka tika ieviesti stingri piekļuves ierobežojumi, lai novērstu iespējamu ļaunprātīgu izmantošanu. Savukārt vēlāk publiski pieejamais Fable modelis tika aprīkots ar papildu drošības mehānismiem, kas paredzēti, lai nepieļautu tā izmantošanu kaitīgiem mērķiem.
Tomēr kiberdrošības speciālisti norāda, ka pārlieku stingri ierobežojumi var traucēt arī likumīgiem aizsardzības darbiem – piemēram, programmu pārbaudei, kļūdu labošanai un drošības uzlabošanai.
Kāpēc eksperti ir satraukti?
ASV valdība pieprasīja Anthropic ierobežot šo modeļu pieejamību eksporta kontroles dēļ, atsaucoties uz nacionālās drošības jautājumiem. Precīzi iemesli netika pilnībā publiskoti. Pēc šī lēmuma Anthropic apturēja piekļuvi šiem modeļiem lietotājiem visā pasaulē.
Eksperti apgalvo, ka situācija var radīt risku, jo kiberdrošības nozare arvien vairāk izmanto MI, lai ātrāk atrastu un novērstu ievainojamības. Viņuprāt, aizsardzības speciālistiem nepieciešami tie paši modernie rīki, kurus potenciāli varētu izmantot arī uzbrucēji.
Atklāto vēstuli parakstījuši 76 kiberdrošības profesionāļi, tostarp nozares veterāni, piemēram, bijušais Facebook drošības vadītājs Aleks Stamoss un kiberdrošības platformas Bugcrowd dibinātājs Keisijs Eliss.
Vai MI aizsardzībai ir nepieciešams pilns spēks?
Viena no galvenajām diskusijām ir par to, kur atrodas robeža starp drošību un pārāk stingru kontroli.
Eksperti uzsver, ka MI izmantošana kiberdrošībā nav tikai par uzbrukumu atrašanu. Tā palīdz izstrādātājiem saprast kļūdas, izveidot labojumus un pārbaudīt, vai aizsardzības sistēmas patiešām darbojas.
Piemēram, drošības pētniece Keitija Musūris norādīja, ka daži eksperimenti, kas tika izmantoti kā pamatojums ierobežojumiem, patiesībā parādīja nevis bīstamu sistēmas uzlaušanu, bet gan normālu drošības testēšanas procesu.
Viņa uzskata, ka MI atteikšanās palīdzēt atrast kļūdas var kaitēt tieši tiem cilvēkiem, kuri cenšas aizsargāt digitālo vidi.
MI sacensība kļūst arvien nopietnāka
Šis gadījums parāda lielāku problēmu – pasaulē notiek cīņa par to, kā kontrolēt arvien jaudīgākas mākslīgā intelekta sistēmas.
No vienas puses, valstis vēlas novērst iespēju, ka MI tiek izmantots kiberuzbrukumiem. No otras puses, drošības eksperti brīdina, ka pārāk lieli ierobežojumi var atņemt aizsargiem svarīgus instrumentus.
Nākotnē lielākais izaicinājums nebūs tikai radīt gudrāku MI, bet arī atrast līdzsvaru starp inovācijām, drošību un atbildīgu tehnoloģiju izmantošanu. Jo vairāk mākslīgais intelekts kļūst spēcīgāks, jo svarīgāks kļūst jautājums – vai mēs kontrolējam MI, vai arī, ierobežojot to nepareizi, paši kļūstam mazāk aizsargāti?
Avots: TechCrunch
