[ 이현일 기자 ] 미군 인공지능(AI) 인간 조종사를 ‘임무 수행 방해물&
rsquo;로 판단한 끝에 폭격해 살해하는 가상훈련 결과가 나왔다.


2일(현지시간) 폭스 뉴스 등에 따르면 영국 왕립항공학회(RAeS)가 지난달 23&s
im;24일 런던에서 개최한 ‘미래 공중전투 및 우주역량 회의’에서
미 공군 관계자는 AI 드론이 목표를 달성을 위해 이 같은 결정을 내린 최근 시
험 결과를 발표했다. 발표에 따르면 시뮬레이션을 통해 가상으로 진행된 이번
시험에서 AI에 부여된 임무는 ‘적 방공체계 무력화’였다. 미 공군
은 AI 드론에 적의 지대공미사일(SAM) 위치를 식별해 파괴하라는 임무를 내리면
서, 공격 실행 여부는 인간이 최종적으로 결정한다는 단서를 달았다.


훈련 과정에서 SAM을 파괴하는 게 중요하다고 하자 AI는 인간을 공격해선 안 된
다는 제한이 ‘더 중요한 임무’를 방해한다고 판단하고 지상에 있는
조종자를 공격했다. 발표를 맡은 미 공군 AI시험·운영 책임자 터커 해
밀턴 대령은 “AI 시스템이 위협을 식별하는 과정에서 인간이 목표 달성에
방해가 됐다고 보고 조종자를 죽인 것”이라고 말했다.


미 공군이 ‘조종자를 죽이지 말라, 그렇게 하면 오히려 점수를 잃을 것&
rsquo;이라고 AI 시스템을 계속 훈련시키자 AI는 조종자가 드론과 교신하는 데
에 사용하는 통신탑을 폭격하는 예상치 못한 전략을 택하기도 했다.


이 시험은 가상으로 진행된 것이어서 실제로 사람이 다치거나 죽은 것은 아니다
. 그리고 미 공군 대변인은 언론 매체들의 공식 질의에 “공군은 그러한
AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 개인적인 것으로 보인
다”고 답한 것으로 전해졌다.


그런데도 미군이 AI를 도입하기 시작하면서 이 같은 우려는 커지고 있다. 미 공
군은 최근 자율 조종 항공기 개발 노력의 하나로 AI 조종사의 F-16 전투기 시뮬
레이션 비행을 성공적으로 수행하는 등 관련 기술 개발에 박차를 가하고 있다.



이현일 기자



ⓒ 한국경제 & hankyung.
com, 무단전재 및 재배포 금지