Mākslīgā intelekta čatboti kļūst arvien gudrāki, un līdz ar to hakeri meklē jaunus veidus, kā tos apmānīt. Ja agrāk pietika ar vienkāršām komandām, tad tagad tiek izmantotas smalkākas metodes – čatbotu mēģina pierunāt, samulsināt vai pakāpeniski novirzīt sarunu tā, lai tas pārkāptu savus drošības noteikumus.
Kā raksta The Verge, MI drošības pētnieki arvien vairāk pēta čatbotu uzvedību sarunās. Izrādās, ka mākslīgais intelekts reaģē uz spiedienu, glaimiem, atkārtotiem jautājumiem vai rūpīgi veidotu kontekstu.
Ar “ignorē iepriekšējos norādījumus” vairs nepietiek
Kādreizējie uzbrukumi MI čatbotiem bija diezgan vienkārši. Lietotāji mēģināja panākt, lai čatbots ignorē drošības noteikumus. Viens no zināmākajiem piemēriem bija “DAN” jeb “Do Anything Now”, kur čatbotam lika atbildēt tā, it kā tam nebūtu nekādu drošības barjeru. Ar šo triku izrādās, ka pietika, lai čatbots pateiktu nedaudz vairāk, kā ierasts.
Šādus primitīvus paņēmienus tehnoloģiju uzņēmumi ātri sāka ierobežot, taču problēma nav pazudusi. Tagad uzbrukumi vairāk atgādina sociālo inženieriju. Uzbrucēji vairs nesāk ar aizliegtu jautājumu uzdošanu, bet pakāpeniski veido sarunu, ar teorētisku scenāriju, lomu spēli, glaimiem vai spiedienu.
Tas nenozīmē, ka mākslīgais intelekts domā vai jūt kā cilvēks. Tomēr dažādi čatboti, piemēram, ChatGPT, Claude, Gemini vai Grok, atbild atšķirīgi. Tiem var būt dažāds tonis, atteikumu stils un reakcija uz sarežģītiem jautājumiem. Tieši šīs atšķirības hakeri var mēģināt izmantot savā labā.
Šobrīd, kad MI čatboti pārtop par aģentiem, kas var pārvaldīt kalendāru, rezervēt tikšanās, apstrādāt uzņēmuma datus vai palīdzēt klientu servisā, MI drošībai un atbildēm tiek pievērtsta arvien leilāka un lielāka uzmanība.
MI drošība nākotnē nebūs tikai programmētāju un kiberdrošības ekspertu darbs. Būs jātestē arī tas, kā modeļi reaģē uz maldinošiem scenārijiem un manipulāciju.
Avots: The Verge
