Američka kompanija OpenAI objavila je da je počela uvoditi nevidljivi vodeni žig u tekstove i kodove koje generišu njeni alati ChatGPT i Codex na području Evropske unije.
Odluka je donesena s ciljem usklađivanja s novim Zakonom o umjetnoj inteligenciji Evropske unije (EU AI Act), čija pravila o transparentnosti nalažu proizvođačima da označavaju sadržaj generisan umjetnom inteligencijom tako da ga drugi računarski sistemi mogu lakše prepoznati.
Nevidljivi vodeni žig bit će postepeno dostupan svim korisnicima alata ChatGPT i Codex u svim članicama Evropske unije tokom narednih nekoliko sedmica.
Za programere koji koriste OpenAI API širom svijeta ova opcija već je dostupna, ali je prema zadanim postavkama isključena i njeno korištenje zavisi od izbora korisnika.
Kako funkcioniše nevidljivi vodeni žig?
Tehnologija iza ovog rješenja, nazvana TextGrain, razvijena je u saradnji s istraživačima sa Univerziteta u Pensilvaniji i Yalea.
Vodeni žig nije nikakav vidljivi grafički simbol. Umjesto toga, suptilno utječe na izbor narednih riječi u rečenici prema tajnom ključu.
Na taj način nastaje matematički obrazac koji ljudsko oko ne može primijetiti, ali ga specijalizirani detektori mogu prepoznati čak i nakon što se tekst kopira i prebaci u drugi dokument.
Iz OpenAI-ja navode da vodeni žig ne prikuplja lične podatke niti narušava kvalitet odgovora koje generiše umjetna inteligencija.
Tehnologija ipak ima ograničenja
Testovi su pokazali da ova tehnologija ima određena ograničenja, navodi OpenAI u svom saopćenju.
Promjena oko 10 posto riječi u tekstu korištenjem običnih sinonima smanjuje pouzdanost detekcije s 92 na 66 posto. Kratki odgovori, matematički proračuni i prevedeni tekstovi također se teže označavaju vodenim žigom.
Zbog tih ograničenja OpenAI će u početnoj fazi pristup alatu za detekciju odobravati samo provjerenim istraživačkim organizacijama i stručnjacima. Oni se već sada mogu prijaviti za korištenje detektora.
Konkurentska kompanija Anthropic prije dva mjeseca saopćila je da uvodi vodeni žig za tekst koji generiše njen model Claude, i to globalno, a ne samo na području Evropske unije kao OpenAI.
Argument.ba
