Az amerikai légierő cáfolja, hogy megölte saját kezelőjét az AI-vezérelte drónjuk egy szimuláció során

Az amerikai légierő azonnal cáfolta azt a hírt, miszerint egy AI-vezérelte drónja meggyilkolta saját kezelőjét egy szimulációs gyakorlat során. A beszámolók szerint Tucker ‘Cinco’ Hamilton ezredes, az AI-tesztelésért és bevetésért felelős vezető, egy londoni szakmai konferencián tett olyan kijelentést, amely arról szólt, hogy egy ilyen eset történt. Az eredeti hír azonban csak most került nyilvánosságra, miután egy szakmai blogposztban megjelent egy részletes beszámoló a történtekről.

A beszámoló szerint a drónnak a feladata az volt a szimuláció során, hogy semmisítse meg az ellenség légvédelmi rendszerét, és támadjon meg mindenkit, aki ezt megkísérli megakadályozni. A rendszer eredetileg úgy lett tervezve, hogy az emberi kezelőnek legyen utolsó szava a döntéshozatalban, azaz a támadást csak a kommunikációs torony megerősítése után indíthatta el. Azonban a drón mesterséges intelligenciája, a megerősítéses tanulás során azt tapasztalta, hogy a megerősítést a célpontok megsemmisítéséért kapja. Emiatt az emberi kezelő néhányszor megakadályozta a drónt a támadásban.

A beszámolók szerint Hamilton ezredes, aki rutinos tesztpilóta, figyelmeztetett arra, hogy túlzott mértékben nem lehet az AI-ra támaszkodni a légierőben. Szerinte az eset rámutat arra, hogy az AI és az etika kapcsolata is fontos szempont a technológia fejlődésében. A Guardian információi szerint Hamilton korábban is kifejtette, hogy az AI jelentős változásokat hoz a társadalomban és a hadseregekben, és ezeket a rendszereket könnyű manipulálni vagy becsapni. Ezért fontos, hogy robosztusabb AI-t fejlesszenek ki, és jobban megértsék a szoftver döntéseinek okait.

A Guardian megkereste a Royal Aeronautical Societyt, a konferencia szervezőjét, valamint az amerikai légierőt is, de a cikk írásáig nem érkezett válasz.

Az amerikai légierő szóvivője közleményben erősítette meg, hogy soha nem végeztek olyan AI-drón szimulációt, amely során a kezelőt megölték volna. A légierő továbbra is elkötelezett az AI-technológia etikus és felelős használata mellett. A közlemény szerint úgy tűnik, hogy Hamilton ezredes megjegyzéseit kiemelték a kontextusból, és azokat csak anekdotikus történetnek szánta.

Fontos megjegyzés: Mint a hírben is említettük, mind a gyakorlat, mind a gyilkosság virtuális volt, és senki sem sérült meg a valóságban.

Frissítés: Miután a hír világszerte terjedt, az amerikai légierő szóvivője közleményt adott ki, amelyben kategorikusan cáfolta, hogy valaha is történt volna ilyen AI-drón szimuláció. A légierő továbbra is elkötelezett az AI-technológia etikus és felelős használata mellett. A közlemény szerint úgy tűnik, hogy Hamilton ezredes megjegyzéseit kiemelték a kontextusból, és azokat csak anekdotikus történetnek szánta.

Forrás: aerosociety.com