Stručnjaci upozoravaju: AI više nije samo tehnologija, već i sigurnosni rizik. Bosna i Hercegovina ubrzano ulazi u eru umjetne inteligencije (AI), ali istovremeno ostaje otvoreno pitanje: ko će snositi odgovornost kada AI sistem pogriješi i izazove ozbiljne posljedice po građane, privredu ili kritičnu infrastrukturu?
Piše: Prof. dr. Hadžib Salkić, stalni sudski vještak iz oblasti Kriminalistike i ekspert za Cyber sigurnost
Dok pojedine evropske države već uvode posebne zakonske odredbe kojima se reguliše odgovornost za incidente izazvane sistemima umjetne inteligencije, u Bosni i Hercegovini još uvijek ne postoji jasan normativni okvir koji bi precizno definisao odgovornost programera, operatera, vlasnika sistema ili institucija koje koriste AI tehnologije.
Umjetna inteligencija sve više upravlja kritičnim procesima
Savremeni AI sistemi danas se koriste u industriji, zdravstvu, finansijskom sektoru, energetici, saobraćaju i cyber sigurnosti. Njihova sposobnost donošenja autonomnih odluka donosi brojne koristi, ali i nove rizike.
Greška AI sistema u industrijskom postrojenju može izazvati eksploziju ili prekid proizvodnje. Pogrešna procjena u zdravstvenom sistemu može dovesti do netačne dijagnoze ili neadekvatne terapije.
U saobraćaju, autonomni sistemi mogu uzrokovati nesreće sa teškim posljedicama po ljudske živote. Posebnu zabrinutost izaziva činjenica da se AI sistemi sve više integrišu u kritičnu infrastrukturu, uključujući elektroenergetske mreže, vodovodne sisteme i sigurnosne platforme za zaštitu država i institucija.
Najveći problem: „Black Box“ efekat
Jedan od ključnih izazova za istražne organe, sudove i tužilaštva jeste tzv. „Black Box“ problem. U mnogim slučajevima nije jednostavno utvrditi zašto je sistem umjetne inteligencije donio određenu odluku, niti da li je moguće reprodukovati isti rezultat pod istim uslovima. Upravo zbog toga stručnjaci za digitalnu forenziku postaju ključni akteri u budućim istragama AI incidenata. Njihov zadatak nije samo analiza računarskih sistema, već rekonstrukcija kompletnog lanca događaja koji je doveo do incidenta.
Digitalna forenzika postaje presudna
Prema stručnim analizama, prvih 24 sata nakon AI incidenta predstavljaju najvažniji period za očuvanje digitalnih dokaza.
Potrebno je hitno osigurati:
• ulazne podatke i senzorske zapise;
• verziju AI modela korištenu u trenutku incidenta;
• konfiguracijske postavke sistema;
• logove korisničkih aktivnosti;
• mrežne i aplikacijske zapise;
• audit tragove svih odluka operatera i sistema.
Problem dodatno otežava činjenica da mnogi od ovih podataka nestaju veoma brzo zbog rotacije logova, privremene memorije i automatskog brisanja sistemskih zapisa.
Bosni i Hercegovini potrebni AI forenzičari
Stručnjaci smatraju da će narednih godina nastati potreba za novom kategorijom sudskih vještaka – vještacima za umjetnu inteligenciju i AI forenziku.
Takvi stručnjaci morali bi posjedovati znanja iz oblasti:
• umjetne inteligencije i mašinskog učenja;
• digitalne forenzike;
• cyber sigurnosti;
• zaštite podataka;
• krivičnog prava i dokaznog postupka.
Njihova uloga bila bi da sudovima i tužilaštvima objasne kako je AI sistem funkcionisao, ko je njime upravljao, da li je posljedica bila predvidiva i postoji li uzročno-posljedična veza između odluke sistema i nastale štete.
Vrijeme za djelovanje
Iako Bosna i Hercegovina još nema poseban pravni okvir za AI incidente, razvoj tehnologije pokazuje da je pitanje odgovornosti samo pitanje vremena. Potrebno je započeti izradu zakonodavnih rješenja, edukaciju sudija, tužilaca i policijskih agencija, kao i razvoj nacionalnih kapaciteta za AI forenziku i cyber sigurnost.
Umjetna inteligencija više nije tehnologija budućnosti. Ona je već danas dio svakodnevnog života građana, institucija i kompanija.
Zato ključno pitanje više nije da li će se dogoditi prvi ozbiljan AI incident u Bosni i Hercegovini, nego da li će država biti spremna da utvrdi odgovornost kada se to dogodi.
Argument.ba
