OpenAI vadītājs Sems Altmans lēš, ka uzņēmums zina, kā veidot AGI, un koncentrējas uz nākamo mērķi – superinteliģenci.
Savā personīgajā blogā OpenAI vadītājs Sems Altmans rakstīja, ka, viņaprāt, uzņēmums “zina, kā veidot mākslīgo vispārējo intelektu”, kā uzņēmums to tradicionāli ir sapratis. Tāpat viņš paziņoja, ka uzņēmums sāk pievērsties “superinteliģencei”.
“Mums patīk mūsu pašreizējie produkti, bet mēs esam šeit, lai sagaidītu krāšņu nākotni,” Altmans rakstīja ierakstā. “Superinteliģenti rīki varētu ievērojami paātrināt zinātnisko atklājumu un inovāciju tempus, vismaz ātrāk, nekā mēs paši spējam izdarīt. Tādējādi tas var ievērojami palielināt pārpilnību un labklājību.”
Kā apskatījām pērn, Altmans septembrī apgalvoja, ka superinteliģence varētu būt “dažu tūkstošu dienu” attālumā un ka tās ierašanās būs “intensīvāka, nekā cilvēki domā”.
AGI jeb mākslīgais vispārējais intelekts ir miglains termins, taču OpenAI ir sava definīcija, proti, “Augsti autonomas sistēmas, kas pārspēj cilvēkus ekonomiski vērtīgāko darbu veikšanā.”
Arī OpenAI un Microsoft, kas ir šī jaunuzņēmuma tuvs sadarbības partneris un investors, ir izstrādājuši AGI definīciju: Mākslīgā intelekta (MI) sistēmas, kas var radīt vismaz 100 miljardu EUR peļņu. Kad OpenAI to sasniegs, Microsoft zaudēs piekļuvi savām tehnoloģijām saskaņā ar abu uzņēmumu vienošanos.
Uz kuru definīciju, iespējams, atsaucas Altmans? Viņš neprecizēja, bet pirmā šķiet ticamākā. Altmans rakstīja, ka, viņaprāt, MI aģenti – MI sistēmas, kas var autonomi veikt noteiktus uzdevumus, – var “pievienoties darbaspēkam” un “būtiski mainīt uzņēmumu sniegumu” jau šogad.
“Mēs turpinām ticēt, ka, iteratīvi nododot lieliskus rīkus cilvēku rokās, tiek panākti lieliski, plaši izplatīti rezultāti,” viņš rakstīja. Tas ir iespējams, taču realitāte ir tāda, ka mūsdienu MI tehnoloģijas ir ievērojami ierobežotas. Pirmkārt, tās pieļauj kļūdas, kas ir acīmredzamas jebkuram cilvēkam. Otrkārt – tās var būt ļoti dārgas.
Ambiciozi mērķi
Altmans šķiet pārliecināts, ka to visu iespējams pārvarēt – un ātri. Tomēr, novērojot pastāvošās tendences MI nozarē, laika grafiki var un arī mainās.
“Mēs esam diezgan pārliecināti, ka nākamajos gados visi redzēs to, ko redzam mēs, un ka ir tik svarīgi rīkoties ļoti uzmanīgi, vienlaikus maksimāli palielinot plašas priekšrocības un iespējas,” raksta Altmans.
“Ņemot vērā mūsu darba iespējas, OpenAI nevar būt parasts uzņēmums. Cik priviliģeti ir tas, ka mums ir iespēja piedalīties šajā projektā.”
Varētu cerēt, ka OpenAI, telegrafējot pāreju uz to, ko tas uzskata par superinteliģenci, veltīs pietiekami daudz resursu, lai nodrošinātu superinteliģento sistēmu drošu darbību. Tajā pašā laikā uzņēmums ir vairākkārt paudis pārliecību, ka veiksmīga pāreja uz pasauli ar superinteliģenci “nebūt nav garantēta”.
“[Mums] nav risinājuma, kā vadīt vai kontrolēt potenciāli superinteliģentu mākslīgo intelektu un nepieļaut tā negodprātīgu rīcību,” uzņēmums rakstīja 2023. gada jūlija bloga ierakstā. “[H]umani nespēs droši uzraudzīt MI sistēmas, kas ir daudz gudrākas par mums, tāpēc mūsu pašreizējās saskaņošanas metodes nebūs mērogojamas superinteliģencei.”
Tomēr kopš šī ieraksta publicēšanas OpenAI ir likvidētas komandas, kas koncentrējās konkrēti uz MI drošību, tostarp superinteliģento sistēmu drošību. Tāpat uzņēmumu pametis ievērojams skaits ietekmīgu pētnieku, kuri pievērsās jautājumam par drošību.
Vairāki no šiem darbiniekiem kā aiziešanas iemeslu minēja OpenAI aizvien pieaugošās komerciālās ambīcijas. Pašlaik uzņēmumā notiek korporatīvā pārstrukturēšana, lai padarītu to pievilcīgāku ārējiem investoriem.
Nesenā intervijā, jautāts par kritiķiem, kas apgalvo, ka OpenAI nav pietiekami koncentrējies uz drošību, Altmans atbildēja: “Es norādītu uz mūsu sasniegumiem.”
Avots: TechChurch
