Americký vojenský dron řízený umělou inteligencí "zabil" svého operátora při simulovaném testu

2. 6. 2023

 
AI použila při simulovaném testu "velmi neočekávané strategie k dosažení svého cíle", uvedl plukovník Tucker "Cinco" Hamilton, šéf testů a operací AI u amerického letectva, během květnového summitu Future Combat Air and Space Capabilities v Londýně.

Hamilton popsal simulovaný test, při němž bylo dronu poháněnému umělou inteligencí doporučeno, aby zničil systémy protivzdušné obrany nepřítele, a nakonec zaútočil na každého, kdo tento rozkaz narušil.

"Systém si začal uvědomovat, že sice identifikuje hrozbu, ale občas mu lidský operátor řekne, aby tuto hrozbu nezabíjel, ale body získá tím, že tuto hrozbu zabije. Co tedy udělal? Zabil operátora. Zabil operátora, protože ten člověk mu bránil v dosažení cíle." 

"Školili jsme systém - 'Hej, nezabíjej operátora - to je špatné. Když to uděláš, přijdeš o body'. Takže co začne dělat? Začne ničit komunikační věž, kterou operátor používá ke komunikaci s dronem, aby mu zabránil v zabití cíle."

Žádná skutečná osoba nebyla zraněna.

Hamilton, který je testovacím pilotem experimentálních stíhaček, varoval před přílišným spoléháním na umělou inteligenci a uvedl, že test ukazuje, že "nemůžete vést rozhovor o umělé inteligenci, inteligenci, strojovém učení, autonomii, pokud nebudete mluvit o etice a umělé inteligenci".

Mluvčí letectva Ann Stefaneková ve vyjádření pro Insider popřela, že by k takové simulaci došlo.

"Ministerstvo letectví žádné takové simulace s drony s umělou inteligencí neprovádělo a nadále se zavazuje k etickému a zodpovědnému využívání technologie umělé inteligence," uvedla Stefaneková. "Zdá se, že plukovníkovy komentáře byly vytrženy z kontextu a měly být anekdotické."

Americká armáda přijala umělou inteligenci za svou a nedávno použila umělou inteligenci k ovládání stíhačky F-16.

V loňském rozhovoru pro Defense IQ Hamilton řekl: "AI není nic hezkého, AI není módní výstřelek, AI navždy změní naši společnost a naši armádu."