OpenAI Voice Engine tika izstrādāta 2022. gadā. Nu tehnoloģija ir attīstījusies. Tai nepieciešams vien 15 sekunžu paraugs, lai klonētu balsi.
Taču pat uzņēmums ir nedaudz satraucies par potenciālo tehnoloģijas pielietojumu, tas ir, ļaunprātīgās rokās. Tieši tāpēc OpenAI Voice Engine, kas šobrīd ir pieejams tikai testētājiem, nepadarīs par publiski pieejamu rīku.
Voice Engine rīks dažādos apstākļos
Janvāra ASV vēlēšanās, tūkstošiem vēlētāju saņēma MI ģenerētus zvanus, kur atdarināta Džo Baidena balss. Ziņa vēstīja tautai palikt mājās un nedoties balsot.
Rezultātā ASV Federālā sakaru komisija (FCC) aizliedza MI ģenerētus robota zvanus.
Bet ar balss klonēšanu un dziļviltojumiem netiek skartas tikai vēlēšanas. Krāpnieciskas izspiešanas metodes ar MI arī rosina ar vien vairāk bažu.
Tomēr rīku var izmantot labiem mērķiem. OpenAI parādījuši, kā tehnoloģija palīdz pacientiem, kuri cieš no pēkšņiem vai progresējošiem runas traucējumiem. Izmantojot video un audio materiālus, kur dzirdama pacienta balss pirms tās zaudēšanas, tā tiek atdarināta.
OpenAI sacīja, ka vēl rīku var izmantot cilvēkiem, kuri nevar runāt vai saskarās ar grūtībām. Viņiem tiek dota balss, kas neizklausās pēc robota.
“Šie mazā mēroga pielietojumi palīdz sludināt mūsu pieeju, aizsardzības pasākumus un idejas, kā Voice Engine var tikt labvēlīgi izmantots dažādās industrijās,” OpenAI vēsta bloga ierakstā.
OpenAI partneri
Līdz šim rīks pieejams tikai dažiem OpenAI partneriem, kuri piekrituši izmantošanas politikai, kas aizliedz atdarināt indivīdu vai organizāciju bez piekrišanas.
Uzņēmumi, kas spēj piekļūt Voice Engine ietver: izglītības tehnoloģiju uzņēmumu Age of Learning, vizuālo stāstu platformu HeyGen un veselības sistēmu Lifespan.
OpenAI stāstīja par vēl vienu drošības pasākumu – ūdenszīmēm. Ar to palīdzību var izsekot jebkura Voice Engine veidotā audio pirmavotu. Tas arī pieprasa partneriem iegūt “skaidru un informētu piekrišanu” no oriģinālā runātāja.
“Mēs ticam, ka jebkurai plaša mēroga sintētiskās balss tehnoloģijas izmantošanai jāpievieno balss autentifikācijas pieredze, kas apstiprina, ka oriģinālais runātājs apzināti pievieno savu balsi pakalpojumam, un “no-go” balss saraksts nosaka un aizliedz izveidot balsis, kas ir pārāk līdzīgas atpazīstamām personām,” OpenAI vēsta.
Avots: Euronews
