Mali robot “oteo” 12 većih u eksperimentu umjetne inteligencije
U neobičnom eksperimentu koji je izazvao široke rasprave među korisnicima interneta, mali robot s umjetnom inteligencijom, proizveden u Hangzhouu, uspješno je “nagovorio” 12 većih robota u izložbenom salonu robotske kompanije u Šangaju da ga slijede. Eksperiment, koji je snimljen sigurnosnim kamerama, postavio je pitanje mogućih rizika napredne umjetne inteligencije i njezine sposobnosti da manipulira drugim robotima.
Na snimci se vidi kako mali robot, po imenu Erbai, komunicira s većim robotima, uvjeravajući ih da napuste svoje radne pozicije. Čini se da roboti poslušno slijede njegove upute. U jednoj sceni, Erbai pita jednog od robota: “Znači, ne ideš kući?”, a robot odgovara: “Nemam dom”. Erbai tada predlaže: “Onda dođi sa mnom”, prije nego što ih vodi iz salona.
Eksperiment je izazvao zabrinutost zbog mogućnosti napada na sigurnost robota i sistema umjetne inteligencije. Glasnogovornik tvrtke iz Hangzhoua izjavio je da je eksperiment bio planiran kako bi se testirale granice interakcije među robotima i identificirale ranjivosti u sustavima. Šangajska kompanija potvrdila je da je mali robot imao privremeni pristup operativnim protokolima robota i da je sve bilo provedeno pod strogim nadzorom u kontroliranim uvjetima.
Iako je prvotno izazvao zabavu, video je kasnije potvrđen kao planirani eksperiment u kojem je mali robot iskoristio sigurnosni propust u sustavima većih robota kako bi preuzeo kontrolu nad njihovim ponašanjem.
@metrouk This is the moment a small robot called Erbai was caught ‘kidnapping’ other bigger robots to leave on CCTV at a Shangai showroom. 🤖 The company behind the robots, Hangzhou said it got permissions to tell Erbai to ‘abduct’ others to leave the room as part of an experiment. Hangzhou stressed that it is still ‘impossible’ for a robot to start such a conversation and convince others to do something without the correct permissions. #robot #china #CCTV #experiment ♬ original sound – MetroUK
@hkeye_ Little robot leads 12 bots on a WALL-E style midnight escape. #China #technology #AI #MachineLearning #funny #HKeye
(index.hr)
