Mākslīgā intelekta tīmekļa pārlūki nav droši- pastāv izteikti augsts risks, ka lietošanas laikā tiek kompromitēts jūsu privātums.
Jaunie mākslīgā intelekta (MI) tīmekļa pārlūki, piemēram, OpenAI ChatGPT Atlas un Perplexity Comet, cenšas izkonkurēt Google Chrome kā galveno piekļuves punktu internetam.
To galvenais jaunievedums ir tīmekļa pārlūkošanas aģenti. Tās ir MI sistēmas, kas sola pabeigt lietotāja uzdevumus viņa vietā, klikšķinot pa vietnēm un aizpildot veidlapas.
Tomēr patērētāji bieži nenojauš būtiskos privātuma apdraudējumus, kas nāk līdz ar šādiem autonomiem pārlūkošanas rīkiem. Visa tehnoloģiju nozare šobrīd intensīvi mēģina risināt šīs problēmas.
Lielāki riski nekā parastiem pārlūkiem
Kiberdrošības eksperti, kurus uzrunāja izdevniecība TechCrunch, uzsver, ka MI pārlūkošanas aģenti ievērojami vairāk apdraud lietotāju privātumu (sekojoši arī drošību) nekā ierastie, tradicionālie pārlūki. Lietotājiem būtu rūpīgi jāizvērtē piekļuves apjoms, ko viņi atļauj šiem aģentiem, un vai ieguvumi vispār atsver riskus.
Lai pilnvērtīgi darbotos, šādi pārlūki, kā Atlas un Comet, pieprasa plašu piekļuvi, piemēramm, Jūsu e-pastam, kalendāram, kontaktu sarakstam u.c.
TechCrunch testos aģenti bija salīdzinoši noderīgi vienkāršiem uzdevumiem, ja tiem piešķīra plašas tiesības. Taču sarežģītākās situācijās tie bieži kļūdījās un strādāja ilgi, drīzāk kalpojot par izklaides avotu nevis reālu produktivitātes uzlabojumu.
Ātrie ievades uzbrukumi – ļaunuma sakne
Galvenais risks slēpjas tā sauktajos ātrie ievades uzbrukumi (prompt injection attacks). Respektīvi, ja vietnē paslēpti ļaunprātīgi norādījumi, aģents, analizējot saturu, var tos izpildīt.
Tas var novest pie sekojošā:
- privāto datu noplūdes;
- nesankcionētiem pirkumiem;
- kaitējoša satura publicēšanas lietotāja vārdā;
- visu pieejamo kontu apdraudējuma.
Šai problēmai šobrīd nav pilnīga risinājuma, turklāt risks tikai pieaug, jo OpenAI un Perplexity šos rīkus padara pieejamus plašai auditorijai.
Drošības orientētais pārlūks Brave secinājis, ka ātrā ievade ir visa MI pārlūku industrijas kopīgā problēma. Uzņēmuma drošības inženieris Šivans Sahibs komentē: “Pārlūks tagad rīkojas lietotāja vietā. Tas ir savā būtībā ir kas patiesi bīstams, turklāt tas piesaka pilnīgi jaunu drošības robežu.”
Arī OpenAI drošības vadītājs Deins Stakijs norādīja: “Ātrās ievades uzbrukumi joprojām ir neatrisināts un ļoti aktīvs drošības izaicinājums.”
Savukārt Perplexity brīdina — šie uzbrukumi var “pārvērst MI rīka spējas pret lietotāju”.
Sākotnēji uzbrukumi bija vienkārši. Visa māksla slēpās slēptā tekstā, kas aģentam lika ignorēt sākotnējos noteikumus. Tagad ļaunprātīgi noskaņotie aktori izmanto arī:
- attēlus ar iekodētu slēptu informāciju
- dinamisku vietņu saturu
- sarežģītus maldināšanas mehānismus
Drošības speciālists Stīvs Grobmens to raksturo kā “kaķa un peles spēli” – lai gan aizsardzība attīstās, tās uzbrucēji attīstās straujāk.
Kā neitralizēt mākslīgā intelekta radītos draudus?
Drošības eksperti iesaka, pirmkārt, izmantot unikālas paroles un tā dēvēto divu faktoru autentifikāciju. Otrkārt, vitāli svarīgi ir ierobežot pārlūka piekļuvi saviem finanšu un veselības kontiem, piemēram, bankām.
Būtiski ir arī neļaut aģentiem rīkoties bez tiešas uzraudzības. Konstanti ir jābūt klātesošam brīdī, kad pārluks veic uzdevumus. Tāpat varat arī vienkārši sagaidīt brīdi, kad esošie drošības riski tiks neitralizēti. Tikai tad varēsiet ar mierīgu prātu nomainīt Chrome uz ko autonomāku.
Sociālās inženierijas eksperte Reičela Tobaka uzsver, ka šie rīki vēl nav pietiekami droši, lai tiem pilnībā uzticētu personīgo informāciju.
Avots: TechCrunch
