OpenAI ir izveidojuši rīku, kas atpazīst ChatGPT ģenerētus tekstus – īpaši mērķēts MI rakstītām esejām un pētniecības rakstiem.
Rīks ir izgatavots, bet uzņēmums vēl spriež, vai to laist publiskā apritē. Tiek izmantota teksta ūdenszīmju metode, kas modificē to, kā ChatGPT izvēlas vārdus, izveidojot neredzamu ūdenszīmi teksta starpā. Atsaucoties uz The Wall Street Journal rakstu, OpenAI mērķis ir samazināt akadēmisko negodīgumu.
Mākslīgā intelekta (MI) uzņēmuma pārstāvis izceļ OpenAI nepārtraukto pētniecību teksta ūdenszīmēs – tā ir metode, kā atpazīt MI ģenerētu saturu. Tomēr pieejai jābūt piesardzīgai potenciālu sarežģītību un plašāku seku dēļ.
“Teksta ūdenszīmes metode, ko šobrīd izstrādājam, ir tehniski daudzsološa, bet tai ir nozīmīgi riski, ko izskatām, paralēli pētot arī alternatīvas, ieskaitot iespēju izvairīties no ļaundariem un potenciālu iespaidu uz tiem, kuri nerunā angļu valodā,” vēsta pārstāvis.
Tehnoloģija tiek radīta ar mērķi atpazīt tieši ChatGPT veidotu saturu. Metode ietver nelielas modifikācijas brīdī, kad rakstīšanas procesā tiek izvēlēti vārdi, izveidojot slēptu parakstu, ko var noteikt vēlāk. Saturs no citiem MI modeļiem nav iekļauts.
OpenAI fokuss ir pārslēdzies uz audiovizuāla satura autentifikācijas rīkiem, taču darbs pie teksta arī nav beidzies. Uzņēmums izceļ problēmas sarežģītību un nepieciešamību pēc nopietnām diskusijām pirms rīka palaišanas plašākai publikai.
Avots: TimesofIndia
