Reddit pastiprinās verifikāciju, lai novērstu MI botu izmantošanu

Reddit izvēlas cīnīties ar MI robotu izmantošanu, ieviešot pastiprinātu lietotāju verifikāciju, tajā pašā laikā saglabājot anonimitāti.

Pagājušajā nedēļā Reddit lietotāji visā pasaulē iesaistījās skandāla, uzzinot, ka pētnieku komanda komūnā “Maini manu viedokli” (Change My View) ir izlaidusi ar mākslīgo intelektu (MI) darbināmu, cilvēku atdarinošu robotu bariņu.

Plaša mēroga eksperiments bija paredzēts, lai izpētītu, cik pārliecinošs var būt MI.

Roboti publicēja vairāk nekā 1700 komentārus. Turklāt šie roboti tēloja, ka ir, piemēram, vardarbības upuri vai melnādaino dzīvību aizstāvji, kas iestājas pret “Black Lives Matter” kustību.

Reddit šis incidents bija neliels murgs. Reddit zīmols ir saistīts ar autentiskumu – vieta, kur īsti cilvēki nāk dalīties ar īstiem viedokļiem. Ja šo uz cilvēkiem orientēto ekosistēmu traucē MI radītas nekārtības vai ja tā kļūst par vietu, kur cilvēki nevar uzticēties, ka saņem informāciju no īstiem cilvēkiem, tas var apdraudēt ne tikai vietnes identitātes pamatu.

Uz spēles varētu tikt likts Reddit peļņas rādītājs, jo uzņēmums tagad pārdod savu saturu OpenAI apmācībai.

Uzņēmums nosodīja “nepiemērotu un ļoti neētisku eksperimentu” un iesniedza sūdzību universitātei, kas to veica. Taču šis eksperiments bija tikai viens no daudziem gadījumiem, kad, visticamāk, par cilvēkiem izliekas ģeneratīvie MI roboti dažādu iemeslu dēļ – no zinātniskiem līdz politiski manipulatīviem.

Lai aizsargātu lietotājus no robotu manipulācijām un “saglabātu Reddit cilvēcīgumu”, uzņēmums ir klusi paziņojis par gaidāmo rīcību, kas var būt nepopulāra lietotājiem, kuri vietni apmeklē cita iemesla dēļ – anonimitātes dēļ.

Pirmdien Reddit izpilddirektors Stīvs Hafmans savā ierakstā paziņoja, ka uzņēmums sāks sadarboties ar “dažādiem trešo pušu pakalpojumiem”, lai pārbaudītu lietotāja cilvēcīgumu. Tas ir nozīmīgs solis platformai, kas vēsturiski ir pieprasījusi gandrīz nekādu personisku informāciju, lai lietotāji varētu izveidot kontu.

Reddit realizēs verificēšanu?

“Lai saglabātu Reddit cilvēcīgumu un izpildītu mainīgās regulatīvās prasības, mums būs nepieciešams nedaudz vairāk informācijas,” rakstīja Hafmans. “Konkrētāk, mums būs jāzina, vai esat cilvēks, un dažās vietās – vai esat pilngadīgs. Taču mēs nekad nevēlamies zināt jūsu vārdu vai to, kas jūs esat.”

Reddit pārstāvis atteicās paskaidrot, kādos apstākļos uzņēmums pieprasīs, lai lietotāji iziet verifikācijas procesu. Tomēr viņš apstiprināja, ka uzņēmums jau šobrīd veic pasākumus, lai aizliegtu “sliktos” robotus.

Runasvīrs arī nevēlējās izpaust sīkāku informāciju par to, kādus trešo pušu pakalpojumus uzņēmums izmantos vai kāda veida personiski identificējoša informācija lietotājiem būs jāsniedz.

Daudzi uzņēmumi šobrīd paļaujas uz tādām verifikācijas platformām kā Persona, Alloy, Stripe Identity, Plaid un Footprint. Šīs platformas parasti pieprasa valdības izdotu personu apliecinošu dokumentu, lai verificētu vecumu un cilvēcību.

Ir arī jaunākas un spekulatīvākas tehnoloģijas, piemēram, Sema Altmana Tools for Humanity un tā acu skenēšanas “cilvēka apliecinājuma” ierīce.

Apdraudēta drošības izjūta

Personu apliecinošu dokumentu pārbaužu pretinieki apgalvo, ka personas datu koplietošana ar sociālo plašsaziņas līdzekļu platformām rada datu privātuma un drošības riskus.

Tas jo īpaši attiecas uz tādu platformu kā Reddit. Respektīvi, cilvēki šo vietni izmanto, lai publicētu pieredzes, ko viņi, iespējams, nekad nebūtu publicējuši, ja vien nebūtu garantēta anonimitāte.

Nav grūti iedomāties pasauli, kurā varas iestādes varētu izsaukt Reddit, lai noskaidrotu, piemēram, grūtnieces pusaudzes identitāti, kura jautā par aborta pieredzi r/women valstīs, kur tas tagad ir aizliegts.

Tikai paskatieties, kā Meta nodeva kādas Nebraskas sievietes un viņas 17 gadus vecās meitas privātās sarunas, kurās tika apspriesti pēdējās plāni pārtraukt grūtniecību. Meta iesaiste ļāva tiesībaizsardzības iestādēm iegūt kratīšanas orderi, kā rezultātā gan mātei, gan meitai tika izvirzītas apsūdzības noziedzīgā nodarījumā.

Tieši no šāda riska Reddit cer izvairīties, piesaistot ārējus uzņēmumus, lai sniegtu “būtisko informāciju un neko vairāk”. Tā apgalvo Hufmans, kurš uzsvēra, ka “mēs nekad nevēlamies zināt jūsu vārdu vai to, kas jūs esat”.

Reddit anonimitāte ir būtiska,” viņš sacīja.

Izpilddirektors arī norādīja, ka uzņēmums turpinās “aizsargāt jūsu personisko informāciju” un “turpinās vērsties pret pārmērīgām vai nepamatotām prasībām no valsts vai privātām iestādēm”.

Avots: TechChurch

Dalies :

Facebook
Twitter
LinkedIn
Pinterest

Atbildēt

Jaunākie apskati
Tev varētu interesēt