로고

 
오늘날 AI 기술은 빠른 속도로 발전하고 있고 인간의 전반적인 삶에 커다란 영향을 끼치고 있습니다. 대표적인 예시로 ChatGPT, 서빙 로봇, 자율주행 차량 등이 있습니다.

잘 활용하면 우리 삶을 더욱 풍요롭고 편안하게 할 수 있지만 문제점도 존재합니다. 특히 자율주행 차량의 경우에는 여전히 불안 요소가 남아있는데요. 한국교통안전공단에 따르면 세계 자동차 대상 사이버 공격 신고 건수가 점차 늘어나고 있는 것으로 파악되었습니다. 특히 2019년에는 전년 대비 2배 이상 늘어나면서 자동차 사이버 보안이 중대한 문제로 떠올랐습니다. 이외에도 안전성 확보 등의 문제도 남아있는 상황이죠. 이렇듯 빠른 발전이 이루어지는 만큼 해결해야 할 과제도 늘어나고 있습니다.

---

 군사용 AI, 논의할 문제 많아

---

군사 부문에서의 AI 활용에 대한 관심이 갈수록 커지고 있습니다. 이에 따른 투자와 개발이 활발하게 진행되고 있는데요. 미국은 전장 분석과 정비 수요 예측 등에서 활용, 로봇 전투차량(RCV) 사업을 추진하고 있고 중국은 2030년까지 세계 최고 AI 강국이 되겠다는 목표를 세우기도 했습니다. 한국 또한 ‘국방혁신 4.0’ 계획에 따라 AI 기반 첨단과학기술 강군 육성을 목표로 내세웠습니다.

그러나 개발이 활발하게 진행되고 있는 만큼 다양한 문제점들이 제기되고 있습니다.

" AI가 인간을 살해할 수 있는 권한이 있을까요? " 
" 살상에 대한 책임은 누가 져야 할까요? " 
" 군사용 AI가 해킹되어 무고한 사람을 죽인다면 어떻게 행동해야 할까요? " 
" AI 통제가 갑작스럽게 되지 않는다면 대처법은 무엇인가요? "

앞서 우리는 자율주행 차량에 대한 사이버 공격 사례를 통해 의도치 않은 위협을 받을 수 있는 가능성을 확인했습니다. 또한, 생활 속에서의 AI 활용에도 각종 오류가 자주 발견되는데 군사용 AI에도 해킹 및 오류가 발생하지 않으리라는 법은 없습니다. 인간의 생명이 달린 전쟁에서 이런 일이 한 번이라도 발생한다면 매우 치명적일 것입니다.

일론 머스크는 자율 살상 무기가 “전쟁의 제3의 혁명”이라고 언급하기도 했습니다. 그만큼 군사용 AI가 미칠 영향력은 지대합니다. 따라서 우리는 군사용 AI에 국제적으로 관심을 갖고 의견을 나눠 볼 필요가 있습니다.

---

 국제적 규범 마련을 위한 세계의 움직임

---

이러한 문제점들을 논의하기 위해 전세계적인 움직임을 보이고 있는데요. ‘군사적 영역에서의 책임 있는 인공지능에 관한 고위급 회의(REAIM 2023)’는 한국과 네덜란드 간 합의에 따라 양국 정부가 공동 주최한 행사로 80여 개국의 정부 관계자가 참여하였습니다. 이 행사는 군사용 AI 주제를 다룬 첫 국제회의라는 점에서 큰 의미가 있는데요. 행사의 마지막 날에 ‘공동 행동 촉구서’를 발표하면서 61개국의 정부 대표단이 서명했습니다. 또한, 이 회의에서 미국이 군사용 AI에 대한 가이드라인을 발표하기도 했습니다. 선언문의 내용 중 일부는 다음과 같습니다.

▶ AI와 자율성의 책임 있는 군사적 사용에 대한 정치적 선언' 프레임워크

① 군사적 AI 능력이 국제법과 일치시키는 데 필요한 조치를 할 것 ② 핵무기와 관련한 주권적 결정을 실행하는 데 필수적인 조치에 인간의 통제와 개입을 유지할 것 ③ 군사용 AI가 의도치 않은 행동을 할 경우 비활성화할 수 있도록 할 것

내년 초 한국에서 2차 회의가 개최될 예정인데요. 이는 한국이 국제적 AI 규범을 마련하는 데 큰 역할을 할 수 있는 계기가 될 것입니다.
 
엘리자베스 앨런 미 국무부 차관보는 "AI의 비군사적 활용 측면에서도 주미 한국대사와 긴밀한 관계를 유지하고 있고 실제로 허위 정보 대응에 대한 협력과 관련해 많은 이야기를 나누고 있다. AI가 정보 공간에 영향을 미치는 가운데 연내 한국을 방문해 외국의 악의적 정보 영향력에 대해 한미가 함께 대응하는 고위급 논의를 실시할 계획"이라고 밝혔습니다.
 
한편으로는 군사 AI 문제를 두고 강대국 간 대립이 있는 상황입니다. 중국은 “다자주의를 고수해야 한다”라는 입장을 밝히며 미국 주도의 AI 규범에 견제하는 듯한 입장을 보였습니다. 군사용 AI에 관한 국제적 규범을 마련하기 위해선 서로 간의 합의가 중요한데 규범 마련 과정이 어떻게 흘러갈지는 아직 미지수인 상황입니다.

AI 기술은 빠르게 진화되고 있고 다양한 전략도 나오고 있습니다. 실제로 러시아-우크라이나 전쟁에서 AI 기술이 부분적으로 사용되었는데요. 딥페이크 기술을 활용하여 가짜 항복 선언을 함으로써 심리전을 건다거나 드론을 활용하여 감시하는 등 군사적으로 AI를 활용하는 시대는 이미 시작되었습니다.

군사용 AI에 대한 여러분들의 생각은 어떠한가요? AI에게 어느 정도의 권한까지 허락되어야 할까요?