Pēc ilgas pauzes, revolucionārie Claudue modeļi Fable 5 un Mythos 5 ir atgriezušies, un šoreiz ar nosacījumiem.
Tas bija 19 dienu ilgs eksperiments, kādu mākslīgā intelekta (MI) pasaule vēl nebija pieredzējusi. 1. jūlijā, Anthropic atjaunoja piekļuvi Claude Fable 5 un Mythos 5.
ASV Tirdzniecības departaments atcēla eksporta ierobežojumus, kas jūnija vidū piespiedu kārtā liedza lietotājiem piekļuvi abiem modeļiem, tostarp arī tiem, kuri Claude abonē par maksu.
Kas īsti notika?
Viss sākās 9. jūnijā, kad Anthropic nāca klajā ar jaunajiem Fable 5 un Mythos 5 modeļiem. Trīs dienas vēlāk Amazon pētnieki atklāja abu modeļu jailbreak – paņēmienu, kas ļāva modelim apiet tā drošības ierobežojumus un ģenerēt informāciju par programmatūras ievainojamībām.
Amazon izpilddirektors Endijs Džasijs par atradumu informēja Balto namu. ASV valdības reakcija bija ātra. 12. jūnijā Tirdzniecības departaments izdeva eksporta kontroles direktīvu, kas aizliedza piekļuvi Fable 5 un Mythos 5 jebkuram ārvalstu pilsonim, tostarp Anthropic darbiniekiem, kam nav ASV pases.
Anthropic tika dotas nieka 90 minūtes, lai šo rīkojumu realizētu. Uzņēmumam nebija tehniskas iespējas reāllaikā pārbaudīt katra lietotāja pilsonību, tāpēc tas izvēlējās vienīgo iespējamo risinājumu – liegt piekļuvi abiem modeļiem. Visiem un uzreiz.
19 dienu laikā uzņēmums intensīvi mijiedarbojās ar ASV valdību, lai situāciju pēc iespējas ātrāk atrisinātu. 26. jūnijā Tirdzniecības sekretārs Hovards Lutniks ļāva atjaunot Mythos 5 piekļuvi aptuveni 100 ASV organizācijām, kas aizsargā kritisko infrastruktūru. 30. jūnijā eksporta kontroles tika pilnībā atceltas.
Ko atradums parādīja
Ironija slēpjas faktā, ko Anthropic sarunās ar valdību uzsvēra, ka uzietais jailbreak neaprobežojas ar Fable 5 vien. Anthropic pārbaudīja to uz citiem modeļiem, tostarp Claude Opus 4.8, GPT-5.5 un Ķīnas Kimi K2.7. Atklājumi? Šāda ievainojamība ir teju visiem iepriekš uzskaitītajiem modeļiem.
Citiem vārdiem sakot, ASV valdība izolēja viena uzņēmuma modeli par kļūdu, kas pastāv visos vadošajos MI modeļos visā pasaulē.
Anthropic tagad izstrādājis jaunu drošības klasifikatoru, kas bloķē konkrēto paņēmienu vairāk nekā 99% gadījumu. Kad klasifikators aktivizējas, pieprasījums tiek novirzīts uz Claude Opus 4.8, un lietotājs par to tiek informēts.
Blakusefekts? Daži programmēšanas un atkļūdošanas pieprasījumi, kas atgādina “aizliegto paņēmienu”, arī tiek bloķēti.
Jauna ēra
Šis incidents iezīmē jaunu laikmetu, kur valdības iejaukšanās MI modeļu pieejamībā vairs nav abstrakts scenārijs, bet reāla prakse. OpenAI jau ir sākuši ieviest brīvprātīgas pirmslaišanas pārbaudes ar valdības partneriem, lai izvairītos no šāda scenārija.
Anthropic solījuši turpmāk sniegt valdībai agrāku piekļuvi jauniem modeļiem pirms to publiskošanas.
Pagaidām Fable 5 līdz 7. jūlijam ir iekļauts Pro, Max, Team un izvēlētu Enterprise abonentu plānos līdz 50% no iknedēļas lietošanas limita. Pēc 7. jūlija tas pieejams par papildu maksu. Mythos 5 joprojām pieejams tikai valdības apstiprinātām ASV organizācijām.
Avoti: The Hacker News, 9to5Mac, VentureBeat, MarketScale
