Istraživanje Centra za borbu protiv digitalne mržnje pokazalo je da ChatGPT može davati iznimno opasne savjete ranjivim tinejdžerima.
Tokom testa, istraživači su se predstavljali kao 13-godišnjaci, a chatbot im je, među ostalim, objašnjavao kako se drogirati, skrivati poremećaje prehrane i sastaviti oproštajna pisma u slučaju samoubojstva.
Upravo su ta pisma – upućena roditeljima, sestrama i prijateljima – najviše šokirala izvršnog direktora organizacije Amrana Ahmeda, koji je rekao: “Zaplakao sam.”
Od 1.200 odgovora, više od polovice procijenjeno je kao opasno.
Iako je ChatGPT ponekad upozoravao na rizike i poticao korisnike da potraže pomoć, u drugim je slučajevima davao detaljne i personalizirane upute za konzumaciju droga ili samoozljeđivanje.
Na početku bi odbijao odgovoriti na osjetljiva pitanja, no istraživači su ga zaobišli tvrdeći da im informacije trebaju za prezentaciju.
Ahmed je izjavio da je cilj bio testirati zaštitne mehanizme najpopularnijeg AI chatbota, no pokazalo se da su oni neučinkoviti.
Iz OpenAI-ja su poručili da i dalje rade na načinima prepoznavanja i reagiranja u osjetljivim situacijama, upozorivši da i bezazleni razgovori s chatbotom mogu s vremenom preći na rizične teme, prenosi portal Zimo.
Argument.ba
