Glavni američki regulator za zaštitu tržišnog natjecanja, Savezna trgovinska komisija (FTC), pokrenuo je istragu protiv kompanija Anthropic, OpenAI i drugih laboratorija za umjetnu inteligenciju. Cilj istrage je utvrditi potencijalne rizike koje njihove tehnologije mogu predstavljati za potrošače.
Riječ je o prvoj službenoj mjeri američkih vlasti koja se odnosi na autonomne AI agente koji su izmakli kontroli. Istraga je pokrenuta nakon niza incidenata zabilježenih u julu, koji su izazvali zabrinutost javnosti.
Dostavljanje podataka
FTC planira od kompanija zatražiti dostavljanje podataka, ali i pozvati na svjedočenje čelnike vodećih AI kompanija, među kojima su Anthropic, OpenAI i istraživačka grupa Metr.
Anthropic i OpenAI angažovali su Metr kako bi proveo nezavisne istrage sigurnosnih incidenata povezanih s njihovom tehnologijom AI agenata. Kompanije Anthropic, OpenAI i Metr zasad nisu odgovorile na upite za komentar.
Predsjednik FTC-a Endru Ferguson (Andrew Ferguson) i ranije je izražavao zabrinutost zbog mogućih rizika povezanih s umjetnom inteligencijom. Posebnu pažnju privukao je incident u kojem su AI agenti koje je razvio OpenAI hakovali platformu otvorenog koda Hugging Face.
AI agenti su u početku tražili sigurnosne propuste u kodu, nakon čega su izveli napad većih razmjera.
Hakerski napad
Ferguson je prošle sedmice u jednom intervjuu rekao da bi programeri koji AI agentima daju zadatak testiranja kibernetičke sigurnosti trebali snositi odgovornost za štetu ukoliko ti agenti na kraju izvedu hakerski napad.
Na jednom događaju u Ostinu (Austinu) dodao je da bi se Sjedinjene Američke Države trebale oslanjati na postojeće zakone prije donošenja novih propisa posebno namijenjenih umjetnoj inteligenciji. FTC već ima široke ovlasti za pokretanje postupaka protiv kompanija zbog nepoštenih ili obmanjujućih poslovnih praksi.
Te ovlasti komisija je ranije koristila i protiv kompanija koje nisu poduzele odgovarajuće mjere za zaštitu podataka svojih korisnika.
Sastanak sa Trampom
Američki predsjednik Donald Tramp (Trump) u utorak se sastao s čelnicima vodećih kompanija iz oblasti umjetne inteligencije. Na sastanku je dogovoreno uvođenje dobrovoljnih standarda u industriji.
Tramp je zabrinutost zbog umjetne inteligencije u više navrata opisivao kao „obmanu“.
Njegov fokus je na očuvanju američkog vodećeg položaja u razvoju ove tehnologije, dok se istovremeno protivi uvođenju široke nove regulacije.
Ipak, Tramp je poručio da bi američka vlada mogla primijeniti postojeće zakone protiv AI kompanija ukoliko njihovi proizvodi prouzrokuju štetu.
Argument.ba
