Ķīnas mākslīgā intelekta (MI) uzņēmums DeepSeek ir kļuvis konkurētspējīgs, bet tā kiberdrošības spējas ir cits stāsts.
Wiz, mākoņa drošības uzņēmums Ņujorkā, apgalvo, ka īsi pēc DeepSeek R1 modelis guva popularitāti, tika uzsākta mašīnmācības komplekta drošības stāvokļa izmeklēšana. Wiz atklāja, ka DeepSeek – kas ne tikai izstrādā un izplata apmācītus pieejamos modeļus, bet arī nodrošina tiešsaistes pieeju neironu tīkliem mākonī – nenodrošināja šo pakalpojumu datubāžu infrastruktūru.
Tas nozīmē, ka gan sarunas ar uzņēmuma tērzēšanas robotu, gan citi dati bija pieejami publiskajā tīmeklī bez paroles.
“Vien minūšu laikā mēs atradām publiski pieejamu ar DeepSeek savienotu ClickHouse datubāzi, kas bija pilnībā atvērta un neautentificēta, atklājot privātus datus,” vēsta Wiz. “To varēja atrast iekš oauth2callback.deepseek.com:9000 un dev.deepseek.com:9000.”
“Šī datubāze saturēja vērienīgu apjomu tērzēšanas vēstures, backend datus un privātu informāciju, tostarp, log streams, API Secrets un operacionālas detaļas.”
Lai situāciju pasliktinātu, Wiz vēsta, ka pieeja nodrošināja pilnu kontroli pār datubāzi un potenciālu privilēģiju eskalāciju iekš DeepSeek vides bez jebkādas autentifikācijas vai šķēršļiem ārējai piekļuvei.”
Izmantojot ClickHouse HTTP interfeisu, drošības pētnieki varēja sasniegt galapunktu un palaist patvaļīgus SQL vaicājumus no pārlūkprogrammas. Ar “SHOW TABLES” vaicājumu viņi piekļuva virknei pieejamu datu.
Viens no tiem – log_stream – esot saturējis dažādus privātos datus iekš vairāk kā miljons ierakstu.
Atsaucoties uz Wiz, to starpā bija laika zīmogi, atsauces uz API galapunktiem, vienkārša teksta tērzēšanas vēsture, API atslēgas, backend detaļas un operacionāli metadati.
Pētnieki spekulē, vai paļauties uz DeepSeek ClickHouse konfigurāciju. Ļaundaris potenciāli varējis iegūt vienkārša teksta paroles, lokālos failus un citus datus ar attiecīgo SQL komandu, bet tas netika izdarīts.
“Veiklā MI pakalpojumu adaptācija bez attiecīgas drošības ir ļoti riskanti,” vēsta Wiz mākoņu drošības pētnieks.
DeepSeek klusē
“Kamēr liela daļa uzmanības ap MI drošības ir vērsta uz nākotnes draudiem, īstais apdraudējums bieži vien nāk tieši no vienkāršiem riskiem, piemēram, netīša datubāžu atklāšana. Klientu datu aizsargāšanai būtu jāpaliek drošības komandas prioritāšu augšgalā, un ir svarīgi, ka drošības komandas cieši sadarbojas ar MI inženieriem, lai pasargātu datus un novērstu to izplatību.”
Atsaucoties uz Wiz, DeepSeek situāciju laboja, kad par to tika informēti.
DeepSeek, kas piedāvā bezmakas tīmekļa un lietotnes, kā arī makas API pieeju saviem CCP cenzētajiem modeļiem, nesniedza komentārus.
Tā privātuma politika skaidri norāda, ka izmantošanas informācija tiek reģistrēta un glabāta Ķīnā esošajos serveros. Android un iOS lietotne nav pieejama Itālijā, pamatojoties uz bažām par cilvēku personīgajiem datiem. Arī Īrija min, ka izpētīs šo jautājumu.
Uzņēmums arī ir aizkaitināijs OpenAI vairāk kā vienā veidā. ASV uzņēmums, kas internetā meklē datus mācībām, tic, ka Ķīnas konkurents ir izmantojis viņu GPT modeļus, lai veidotu DeepSeek neirālo tīklu mācību materiālu.
Avots: TheRegister
