Jak relacjonuje wojskowy, AI była punktowana za niszczenie zidentyfikowanych zagrożeń i znalazła „bardzo zaskakujące strategie”, aby osiągnąć postawiony przed nią cel.
- „System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora”
- powiedział Hamilton.
- „Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania”
- dodał.
Wówczas badacze zmienili zasady „gry”. System miał tracić punkty za zabicie operatora.
- „Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem”
- zdradził Hamilton.
Doniesieniom tym zaprzecza jednak Departament Sił Powietrznych Stanów Zjednoczonych.
- „Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu”
- powiedziała rzeczniczka amerykańskiego lotnictwa.