Meta sāks atzīmēt mākslīgā intelekta (MI) ģenerētos attēlus gan Facebook, gan Instagram, gan Threads, lai mazinātu dezinformāciju.
Tehnoloģiju gigants jau uzsācis marķēt saturu, ko izveidojis Imagine AI, attēliem pievienojot ūdenszīmi. Turpmāk to darīs arī ar attēliem no trešās puses avotiem, piemēram, OpenAI, Google, Midjourney un citiem. Vēl nav zināms, kā izskatīsies marķējums, taču, skatoties uz paziņojuma publikāciju, tas varētu būt vienkāršs teksts ar ziņu “Mākslīgā intelekta informācija”. Meta atzīst, ka tas nav galējais dizains, norādot uz iespējamām izmaiņām, kad iznāks oficiālais atjauninājums.
Papildus ūdenszīmēm, uzņēmums saka, ka strādā arī pie rīkiem, kas “identificēs neredzamos marķierus” attēliem no trešās puses ģeneratoriem. Imagine AI dara ko līdzīgu, ievietojot ūdenszīmes satura metadatos. Mērķis ir ietvert unikālu birku, ko nevar manipulēt ar rediģēšanas rīkiem. Meta norāda, ka citām platformām ir līdzīgi plāni un vēlās sistēmu, kas atpazīs metadatus ar birku.
Meta audio un video marķēšana
Līdz šim visu uzmanību saņēmuši attēli, taču kā ar ģenerētajiem audio un video? Google Lumiere spēj izveidot ļoti reālistiskus klipus, un OpenAI strādā pie video ieviešanu ChatGPT.
Meta atzīst, ka pašlaik nav veida, kā atpazīt MI ģenerētus audio un video tādā pat līmenī kā attēlus. Tāda tehnoloģija vienkārši vēl neeksistē. Taču industrija strādā, lai to izveidotu. Līdz tam brīdim, uzņēmumam būs jāuzticas godīgumam. Tas ir, lietotājiem būs jānorāda, vai video klipu vai audio failu ir producējis vai rediģējis mākslīgais intelekts. To neizdarot, var saņemt sodu. Vēl jo vairāk, ja fails ir tik reālistisks, ka pastāv risks apmānīt publiku, Meta pievienos “vēl ievērojamāku marku”, piedāvājot svarīgas detaļas.
Turpmākie atjauninājumi
Meta strādā arī pie savu rīku uzlabošanas.
Uzņēmuma MI pētniecības laboratorija FAIR, izstrādā jaunu ūdenszīmes tehnoloģijas veidu, ko dēvē par Stable Signature. Šķiet, ka ar to ir iespējams izņemt neredzamās markas no MI ģenerētā satura metadatiem. Stable Signature mērķis ir to apturēt, padarot ūdenszīmes par “attēlu ģenerēšanas procesa” neatņemamu sastāvdaļu. Papildus tam, Meta sākusi trenēt vairākus lielās valodas modeļus, lai tie atbilstu kopienas standartiem. Ar to tiks panākts, ka MI varēs noteikt, vai ar konkrētu saturu tiek pārkāpti noteikumi.
Sociālo mediju birkas gaidāmas nākamajos mēnešos. Relīzes brīdim nevajadzētu pārsteigt nevienu, jo 2024. gads ir nozīmīgs vēlēšanu gads daudzām valstīm, it īpaši ASV. Meta vēlas pēc iespējas labāk samazināt dezinformācijas izplatību savās platformās.
