Tehnoloģiju jaunumi

Atklāts jauns veids, kā apmuļķot mākslīgā intelekta sistēmas

Ikdienā ik uz soļa mēs tiekam novēroti. Video ierakstīšana, foto reģistri… Mākslīgais intelekts ieraksta un nolasa mūsu darbības un dažkārt pat identitātes. Tas ir visai satraucoši, vai ne tā? Taču pētnieki tam ir atraduši risinājumus – dažādus trikus, kas ļauj apmānīt mākslīgo intelektu, neļaujot tam uztvert konkrētas lietas vai pat cilvēkus.

Pavisam nesen KU Luven Beļģijas Universitātes studenti atklājuši jaunu veidu, kā apmuļķot mākslīgo intelektu. Kādā PDF failā www.arxiv.org studenti apraksta un vizuāli parāda, cik vienkārši izprintēti attēli spēj maldināt mākslīgā intelekta sistēmas.

Ja izdrukājat kādu no studentu speciāli veidotajiem attēliem un pakarināt to ap kaklu, no mākslīgā intelekta viedokļa Jūs esat paslēpies zem neredzamības apmetņa.

Studenti raksta, ka teorētiski, uzdrukājot šādu attēlu uz T-krekla, cilvēks varētu kļūt praktiski neredzams automātiskajām novērošanas kamerām.

Šādi triki var šķist visai dīvaini, taču patiesībā tā ir labi zināma parādība mākslīgā intelekta pasaulē. Šādu attēlu, ko mākslīgais intelekts nespētu uztvert, nav visai daudz un tos ir visai grūti atrast.

Zināmi vairāki gadījumi, kuros cilvēki izmantojuši šādus attēlus, lai apmuļķotu sistēmas. Ne vienmēr tie tiek izmantoti, lai paliktu nepamanīts, tie pat tikuši izmantoti, uzdodoties par citu cilvēku.

Pētnieki brīdina, ka šādiem atklājumiem ir visai bīstams potenciāls. Tos var izmantot ar vēlmi radīt tiešu kaitējumu – izmainot to, kā pašbraucoši auto lasa stop zīmes vai izmainot detaļas medicīniskās sistēmās.

Taču attiecībā uz šo neseno pētījumu jāņem vērā svarīgs aspekts – studentu veidotais attēls spēj apmuļķot tikai specifisku algoritmu – YOLOv2. Tas nestrādā, ja tiek izmantotas, piemēram, Google mākslīgā intelekta sistēmas. Tas nozīmē, ka T-krekls, kas padara cilvēku neredzamu visām novērošanas sistēmām, pagaidām paliek zinātniskās fantastikas valstībā.

Tā kā mākslīgā intelekta videonovērošana tiek arvien plašāk izmantota visā pasaulē, arvien vairāk cilvēku varētu vēlēties palikt anonīmi. Taču rodas jautājums – vai izvairīšanās no novērošanas un atpazīšanas sistēmām, izmantojot dažādus trikus un kļūdas sistēmā, nebūtu visai bīstama.

Avots: The Verge

Līdzīgi raksti

Atbildēt