Attīstoties mākslīgā intelekta tehnoloģijām, pieaug arī kiberdrošības riski. OpenAI to apzinās un pat uzsver – jaunie modeļi nav droši.
OpenAI trešdien brīdināja, ka gaidāmie uzņēmuma mākslīgā intelekta (MI) modeļi var radīt augsta līmeņa kiberdrošības risku. Iemesls? Modeļu iespēju spektrs attīstās strauji un arvien sarežģītākā un neparedzamā virzienā.
Saskaņā ar uzņēmuma publisko paziņojumu, nākamās paaudzes MI modeļi varētu spēt izstrādāt funkcionējošus nulles dienas attālinātos ievainojamību ekspluatācijas rīkus pat pret labi aizsargātām sistēmām. Šie modeļi varētu asistēt arī ar ielaušanās mēģinājumiem, piemēram, valstu valdību sistēmās, kuru mērķis ir panākt reālu ietekmi uz fiziskām infrastruktūrām vai kritiskām sistēmām.
Vienlaikus OpenAI uzsver, ka līdz ar spēju pieaugumu, uzņēmums aktīvi investē modeļu stiprināšanā aizsardzības kiberdrošības uzdevumiem. Uzņēmums sola, ka tas arvien vairāk pievēršas tādu rīku izstrādē, kas ļautu efektīvāk veikt kodu auditu, identificēt tā vājos posmus un nodrošināt savlaicīgu ievainojamību novēršanu.
Uzņēmums norāda, ka kiberdrošības risku mazināšanai tas balstās uz piekļuves kontroles kombināciju, infrastruktūras pastiprināšanu, izejošās datplūsmas pārvaldību un pastāvīgu monitoringu.
Drīzumā OpenAI plāno ieviest jaunu programmu. Šī programma noteiktām lietotāju un klientu grupām, kas strādā kiberaizsardzības jomā, piedāvās pakāpenisku piekļuvi uzlabotām MI iespējām. Šāds modelis ir paredzēts, lai sniegtu jaudīgākus rīkus tiem, kuri tiešā veidā nodarbojas ar aizsardzības pasākumiem un savlaicīgi novērš riskus.
Papildus tam uzņēmums izveido Frontier Risk Council. Tā ir konsultatīva padome, kurā darbosies pieredzējuši kiberaizsardzības speciālisti un drošības praktiķi.
Padomes sākotnējais fokuss būs kiberdrošība, taču laika gaitā tā paplašinās darbību uz citām jomām, kur MI spēju pieaugums var radīt būtiskus riskus. Šis solis ir daļa no OpenAI centieniem ierobežot MI tehnoloģiju radītos draudus, vienlaikus nodrošinot to drošu un atbildīgu izmantošanu.
Avots: Reuters
