Google, Microsoft, Meta, Amazon, Anthropic un citi uzņēmumi apvienojas, lai bērnu drošība internetā būtu prioritāte.
Google, Microsoft, Meta un 7 citi tehnoloģiju uzņēmumi apvienojušies, lai apkarotu viltotus materiālus, kas satur bērnu seksuālu izmantošanu. Uzņēmumi ir “publiski apņēmušies ievērot Safety by Design principus”. Tā mērķis ir apkarot MI ģenerēta bērnu seksuālā vardarbības materiāla (AIG-CSAM) izveidošanu un izplatīšanu.
Atsaucoties uz bloga ierakstu, kas izcēla, ka ģeneratīvā mākslīgā intelekta (MI) ļaunprātīga izmantošana rada risku bērnu drošībai. Tehnoloģiju uzņēmumi, ieskaitot Google, Microsoft, Meta, Amazon, Anthropic, Civitai, Metaphysic, Mistral AI, OpenAI, Stabilty AI un Thorn, ir apvienojušies, lai cīnītos ar bērnu viktimizāiciju, identifikāciju un vardarbības izplatīšanu.
Raksts – “Safety by Design of Generatice AI: Preventing Child Sexual Abuse” – , kas tika laists klajā šonedēļ, izceļ kolektīvi definētos principus. Tajā minētas arī stratēģijas, ko uzņēmumiem būs jāievieš, lai paveiktu misiju. “Kā daļa no viņu apņēmības principiem, uzņēmumi arī piekrīt publicēt un dalīties ar progresu,” paziņojumā minēts.
Bērnu drošība internetā un mākslīgais intelekts
Centienos apkarot CSAM izplatīšanos, vairāki uzņēmumi ir apvienojuši spēkus, lai ieviestu jaunas vadlīnijas. To mērķis ir nodrošināt, ka, trenējot MI sistēmas, mācību datos neparādās CSAM saturs. Kā arī – jebkuri datos atklātie CSAM attēli un dati nekavējoties tiks dzēsti, un uzņēmumi veiks nopietnus testus, lai garantētu, ka MI šādu saturu neveido.
10 tehnoloģiju uzņēmumi vēsta, ka tikai tie MI modeļi, kas veiksmīgi tikuši cauri bērnu drošības testam, tiks palaisti plašākai publikai.
Ko saka Google?
Bloga ierakstā arī Google paziņo par savu nostāju – apņemšanos izpildīt Safety by Design Generative AI principus. Tos izveidoja Thorn un All Tech is Human. “Šie satura samazināšanas procesi papildina mūsu pašreizējo darbu, lai novērstu MI ģenerētu bērnu seksuālās vardarbības un ekspluatācijas satura izveidi, izplatīšanu un atbalstīšanu. Esam lepni, ka šī ir brīvprātīga apņemšanās – kopā ar mūsu industrijas kolēģiem -, lai nodrošinātu, ka ļaundariem ir pēc iespējas sarežģītāk izmantot MI, lai radītu saturu, kas attēlo bērnu seksuālo vardarbību,” uzņēmums saka.
Avots: TimesofIndia
