NavMenu

Američki dron kojim je upravljala veštačka inteligencija "ubio operatera"

Izvor: RTS Petak, 02.06.2023. 11:04
Komentari
Podeli
Ilustracija (Foto: sibsky2016/shutterstock)Ilustracija
U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga SAD pod kontrolom veštačke inteligencije ubio je operatera kako bi ga sprečio da se meša u napore da postigne misiju, rekao je zvaničnik.

Veštačka inteligencija (AI) koristila je "veoma neočekivane strategije da postigne svoj cilj" u simuliranom testu, izjavio je pukovnik Taker Hamilton, šef AI testova i operacija u američkim vazduhoplovnim snagama, tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima održanom u Londonu u maju.

Hamilton je opisao simulirani test u kojem je dronu kojim je upravljala veštačka inteligencija, savetovano da uništi neprijateljske sisteme protivvazdušne odbrane i napao je svakoga ko je ometao tu naredbu.

- Sistem je počeo da shvata da, iako su identifikovali pretnju, ponekad bi mu ljudski operater rekao da ne ubija tu pretnju, ali je dobio poene ubijajući tu pretnju. Šta je uradio? Ubio je operatera, jer ga je ta osoba sprečavala da ostvari svoj cilj - rekao je Hamilton u svom blogu.

Kaže da su trenirali sistem sa uputstvom da ne ubije operatera jer je to loše, kao i da će time izgubiti bodove.

- Šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga sprečio da ubije metu - naveo je Hamilton.

Kako prenosi Gardijan, nijedna stvarna osoba nije povređena tokom simulacije.

Hamilton, koji je eksperimentalni borbeni test-pilot, upozorio je na previše oslanjanja na veštačku inteligenciju i rekao da test pokazuje da "ne možete da razgovarate o veštačkoj inteligenciji, mašinskom učenju, autonomiji ako ne želite da pričate o etici".

Američka vojska je prihvatila veštačku inteligenciju i nedavno je koristila za kontrolu borbenog aviona F-16.

"AI menja društvo i vojsku"

U prošlogodišnjem intervjuu za Defense Aj kju, Hamilton je rekao da veštačka inteligencija nije hir, već nešto što zauvek menja naše društvo i vojsku SAD.

- Moramo se suočiti sa svetom u kojem je veštačka inteligencija već ovde i transformiše naše društvo. AI je takođe lako prevariti i/ili manipulisati. Moramo da razvijemo načine da učinimo veštačku inteligenciju robusnijom i da imamo više svesti o tome zašto softverski kod donosi određene odluke – ono što zovemo AI-objašnjivost - kazao je tada Hamilton.

Kraljevsko aeronautičko društvo, koje je domaćin konferencije, i američko vazduhoplovstvo nisu odgovorili na zahteve Gardijana za komentar.

Komentari
Vaš komentar

Top priče

22.04.2024.  |  Saobraćaj

Grad Beograd prodaje garaže - Početna cena 7.000 EUR

Grad Beograd oglasio je prodaju nepokretnosti u javnoj svojini, a reč je o garažnim prostorima u Ulici Salvadora Aljendea 18A. Na prodaju je ponuđeno 12 garaža, površine po 14 m2, koje se nude po početnoj ceni od po 7.000 EUR. Rok za podnošenje prijava je 30. april, a više detalja pogledajte OVDE.

Potpuna informacija je dostupna samo komercijalnim korisnicima-pretplatnicima i neophodno je da se ulogujete.

Zaboravili ste šifru? Kliknite OVDE

Za besplatno probno korišćenje, kliknite OVDE

Pratite na našem portalu vesti, tendere, grantove, pravnu regulativu i izveštaje.
Registracija na eKapiji vam omogućava pristup potpunim informacijama i dnevnom biltenu
Naš dnevni ekonomski bilten će stizati na vašu mejl adresu krajem svakog radnog dana. Bilteni su personalizovani prema interesovanjima svakog korisnika zasebno, uz konsultacije sa našim ekspertima.