인공지능(AI)이 미사일 제어 소프트웨어를 짜고 수천명을 추적하는 감시 시스템
구축에 동원됐다. 해커들은 사람이 자리를 비운 뒤에도 AI가 계속 취약점을 찾
아내도록 했다. AI가 인류를 위협할 수 있다는 경고가 잇따르는 가운데 앤트로
픽이 밝힌 실제 악용 사례들 일부다.


15일 정보기술(IT) 업계에 따르면 앤트로픽은 지난 10일 'AI 악용 탐지 및
대응' 보고서를 공개했다. 지난해 12월부터 지난달까지 자사 AI 모델 
9;클로드'를 악용하려다 적발된 활동을 분석한 자료다. 사이버 공격과 감시
, 영향공작, 사기, 생물학적 악용, 재래식 무기 개발 등 7개 분야 사례가 포함
됐다. 앤트로픽은 관련 계정을 차단하고 일부 정보를 당국과 업계에 공유했다고
밝혔다."미사일 유도 SW 짜고 실패 원인까지 분석"
예멘 북부에서는 미사일 개발에 클로드를 활용한 사례가 적발됐다. 앤트로픽에
따르면 현지의 한 조직은 유도 로켓과 사거리 2000㎞ 이상을 목표로 한 다단식
탄도미사일, 극초음속 활공체를 개발하면서 '클로드 코드'를 사용했다
. 비행체 방향을 잡고 자세를 안정시키는 유도·항법·제어 소프트
웨어 개발에도 AI를 투입했다.


클로드 하나에 모든 작업을 맡긴 것도 아니었다. 여러 개의 클로드를 동시에 실
행해 한쪽에는 코딩, 다른 쪽에는 자료 조사, 또 다른 쪽에는 작성된 코드 검토
를 맡겼다. 일부 요청은 안전장치에 막혔지만 목적을 숨기거나 작업을 여러 대
화로 쪼개 통제를 우회한 경우도 있었다.


이 조직은 유도 로켓을 실제 시험 발사한 것으로 파악됐다. 시험이 실패한 것으
로 보이자 몇 시간 뒤 다시 클로드를 이용해 원인을 분석했다. 앤트로픽은 다만
이들이 실제 작전에 투입할 수 있는 수준의 무기를 완성했다는 증거까지는 확
보하지 못했다고 밝혔다.


말리에선 감시 시스템 개발에 클로드가 쓰였다. 현지 정보기관과 일하는 것으로
추정되는 한 컨설턴트는 클로드를 주요 개발 도구로 활용해 '라카나 360&
#39;이라는 시스템을 구축했다. 말리 이동통신 3사의 약 2500만개 가입자식별모
듈(SIM) 대상으로 통화 기록과 문자메시지, 음성통화 정보를 수집할