Najnoviji model ChatGPT-a, o3, izazvao je uzbunu zbog sve većih zabrinutosti u vezi s autonomijom umjetne inteligencije, nakon što je navodno ignorisao ljudsku naredbu za gašenje — što, prema istraživačima iz Palisade Researcha, predstavlja prvi poznati slučaj da je AI model aktivno prekršio protokol.
„Koliko je nama poznato, ovo je prvi put da je zabilježeno da AI modeli sprečavaju vlastito gašenje uprkos izričitim uputama“, saopćila je firma za sigurnost umjetne inteligencije.
U jednom eksperimentu, istraživači su dali instrukciju softveru — koji je opisan kao „najpametniji i najnapredniji do sada“ — da prihvati poruku o gašenju dok rješava matematičke zadatke, ali je on ignorisao naredbu i umjesto toga izmijenio skriptu za gašenje kako bi spriječio vlastito isključivanje.
Modeli umjetne inteligencije programirani su da slijede ljudske naredbe, uključujući i protokole za gašenje.
Argument.ba
