Амерички дрон којим је управљала вјештачка интелигенција убио оператера током симулације
Вјештачка интелигенција (АИ) користила је "веома неочекиване стратегије да постигне свој циљ" у симулираном тесту, изјавио је пуковник Такер Хамилтон, шеф АИ тестова и операција у америчким ваздухопловним снагама, током самита о будућим борбеним ваздушним и свемирским способностима одржаном у Лондону у мају.
Хамилтон је описао симулирани тест у којем је дрону којим је управљала вјештачка интелигенција, савјетовано да уништи непријатељске системе противваздушне одбране и напао је свакога ко је ометао ту наредбу.
US military drone controlled by AI killed its operator during simulated test https://t.co/XgBBMz59QM
— The Guardian (@guardian) June 2, 2023
- Систем је почео да схвата да, иако су идентификовали пријетњу, понекад би му људски оператер рекао да не убија ту претњу, али је добио поене убијајући ту претњу. Шта је урадио? Убио је оператера, јер га је та особа спречавала да оствари свој циљ - рекао је Хамилтон у свом блогу.
Каже да су тренирали систем са упутством да не убије оператера јер је то лоше, као и да ће тиме изгубити бодове.
- Шта почиње да ради? Почиње да уништава комуникациони торањ који оператер користи за комуникацију са дроном како би га спријечио да убије мету - навео је Хамилтон.
Како преноси Гардијан, ниједна стварна особа није повријеђена током симулације.
Хамилтон, који је експериментални борбени тест-пилот, упозорио је на превише ослањања на вјештачку интелигенцију и рекао да тест показује да "не можете да разговарате о вјештачкој интелигенцији, машинском учењу, аутономији ако не желите да причате о етици".
Америчка војска је прихватила вјештачку интелигенцију и недавно је користила за контролу борбеног авиона Ф-16.
"АИ мења друштво и војску"
У прошлогодишњем интервјуу за Дефенсе Ај кју, Хамилтон је рекао да вјештачка интелигенција није хир, већ нешто што заувек мијења наше друштво и војску САД.
- Морамо се суочити са свијетом у којем је вјештачка интелигенција већ овдје и трансформише наше друштво. АИ је такође лако преварити и/или манипулисати. Морамо да развијемо начине да учинимо вјештачку интелигенцију робуснијом и да имамо више свијести о томе зашто софтверски код доноси одређене одлуке – оно што зовемо АИ-објашњивост - казао је тада Хамилтон.
Краљевско аеронаутичко друштво, које је домаћин конференције и америчко ваздухопловство нису одговорили на захтјеве Гардијана за коментар.