Galvenie mākslīgā intelekta speciālisti vēlas apturēt jaudīgu mākslīgā intelekta sistēmu apmācību, jo ekspertu vidū pastāv aizdomas par apdraudējumu cilvēcei.
Galvenie mākslīgā intelekta speciālisti ir parakstījuši atklātu vēstuli, kurā brīdina par iespējamiem riskiem un norāda, ka mākslīgā intelekta sistēmu izstrādes temps ir kļuvis nekontrolējams.
Twitter vadītājs Elons Masks ir viens no tiem, kas vēlas, lai mākslīgā intelekta apmācība, kas pārsniedz noteiktu kapacitāti, tiktu pārtraukta vismaz uz sešiem mēnešiem. Līgumu parakstīja arī viens no Apple līdzdibinātājiem Stīvs Vozņaks un daži DeepMind pētnieki.
Kas notiek ar mākslīgo intelektu?
Uzņēmums OpenAI, kas atbild par ChatGPT, nesen izlaida GPT-4 – mūsdienīgu tehnoloģiju, kas pārsteidza apkārtējos ar spēju veikt tādus uzdevumus kā-atbildēt uz jautājumiem, dot padomus un risināt dažādas problēmas.
Nākotnes dzīvības institūta (Future of Life Institute) vēstulē, ko parakstījušas slavenības, eksperti un pētnieki, pausts aicinājums uz laiku apturēt izstrādi šajā līmenī, brīdinot par riskiem, ko varētu radīt turpmākas, attīstītākās AI sistēmas.
“Mākslīgā intelekta sistēmas ar cilvēkam līdzīgu intelektu var radīt nopietnus riskus sabiedrībai un cilvēcei,” teikts ziņojumā, kurā tālāk norādīts ,ka progresīvie mākslīgie intelekti ir jāattīsta uzmanīgi, bet tā vietā pēdējos mēnešos mākslīgā intelekta laboratorijas ir iesaistījušās nekontrolējamās sacensībās, lai izstrādātu un izmantotu arvien jaudīgākus digitālos prātus, kurus neviens – pat to radītāji – nespēj saprast, paredzēt vai uzticami kontrolēt.
Vēstulē arī brīdināts, ka mākslīgais intelekts var pārpludināt informācijas kanālus ar dezinformāciju un aizstāt darba vietas ar automatizāciju.
Ārkārtīgi gudrs mākslīgais intelekts
Vēstulē ir izteikts vēl viens spekulatīvs jautājums: “Vai mums būtu jāattīsta ne-cilvēku prāti, kas galu galā varētu mūs pārspēt, pārgudrot un aizstāt?”.
Nesen publicētajā bloga ierakstā, kas citēts vēstulē, OpenAI brīdināja par riskiem, kas varētu rasties, ja vispārējais mākslīgais intelekts (AGI) tiktu attīstīts neapdomīgi: “Nepareizs superinteliģents AGI varētu nodarīt smagu kaitējumu pasaulei, tas spētu radīt autokrātiskus režīmus ar izšķirošu superinteliģentu vadību.” “Visticamāk, būs svarīgi koordinēt AGI centienus, lai kritiskajos brīžos palēninātu izaugsmi,” raksta uzņēmums.
Elons Masks bija OpenAI līdzdibinātājs, lai gan pirms dažiem gadiem viņš atkāpās no organizācijas valdes un tviterī ir kritiski izteicies par tās pašreizējo virzību.
Autonomās braukšanas funkcijās, ko veic E.Maska autobūves uzņēmums Tesla, tāpat kā lielākajā daļā līdzīgu sistēmu, tiek izmantota mākslīgā intelekta tehnoloģija.
Vēstulē mākslīgā intelekta laboratorijām tiek prasīts “nekavējoties vismaz uz sešiem mēnešiem pārtraukt jaudīgāku mākslīgā intelekta sistēmu apmācību nekā GPT-4“.
Ja šādu kavēšanos nav iespējams īstenot ātri, valdībām būtu jāiejaucas un jāievieš moratorijs, teikts vēstulē.
