[강의영상] 당신의 생사를 AI가 결정한다면? – 자율무기체계와 국제인도법

지난 9월 1일부터 9월 5일, 스위스 제네바에서 제 2차 유엔 치명적 자율무기체계(LAWS: Lethal Autonomous Weapons Systems) 정부전문가그룹(GGE) 회의가 열렸습니다 피스모모는 국제네트워크 ‘스탑킬러로봇캠페인(Stop Killer Robots Campaign)’과 함께 이 회의에 참여했는데요. 

스탑킬러로봇캠페인은 2013년 설립된 이후 치명적 자율무기 체계의 위험성에 대해 경고해왔으며, 의미 있는 인간 통제 없이 작동하는 무기체계를 금지하는 국제조약의 필요성을 지속적으로 주장해왔습니다. 그러나 10년이 넘는 시민사회의 꾸준한 노력에도 불구하고 아직 국제조약은 마련되지 않았고, 그 사이 인공지능 기반의 치명적 무기체계들이 전장에 배치되어 민간인을 무차별적으로 살상하고 있습니다.

2018년부터 안토니오 구테흐스(UN 사무총장)는 인공지능과 무기의 결합이 초래하는 인도주의적·법적·안보적·윤리적 위험뿐 아니라 인권과 기본적 자유에 대한 심각한 위협을 이유로, 국제법 하에서 치명적 자율무기체계의 금지를 지속적으로 촉구해왔습니다. 이에 따라 구테흐스 사무총장은 2026년까지 인간의 통제 없이 작동해 국제인도법을 위반할 가능성이 있는 자율무기를 금지하고, 나머지 형태의 자율무기들도 규제하는 법적 장치를 마련할 것을 제안하였습니다.

해당 회의는 법적 틀에 대한 합의를 도출할 수 있는 중요한 기회였지만, 용어의 사용과 정의에 대한 이견으로 최종적인 조약 채택에는 이르지 못했습니다.

그럼에도 불구하고 전 세계적으로 인공지능을 기반으로하는 치명적 무기 체계의 배치가 증가하고 있으며, 한국산 무기 수출도 그 중 일부를 차지하고 있습니다. 일부 국가는 더욱 첨단화된 인공지능 개발을 우선시하고 있으나, 한국 정부는 치명적 자율무기체계가 야기할 수 있는 위험성에 대한 인식을 높이고, 이러한 기술이 모두의 평화와 안전에 기여할 수 있는 방향으로 발전하도록 환경을 조성하는 것이 시급합니다.

이에 피스모모가 국제조약 논의 초기부터 참여해온 국제인도법 전문가들을 초청하여 개최한 세미나의 영상을 공유합니다.

*발표자
오즐렘 울겐 (Özlem Ulgen, 영국 노팅엄대학교 법학과 부교수)
오즐렘 울겐은 인공지능(AI)과 로보틱스의 법·윤리·규제, 무기사용법 및 국제인도법, 국제공법을 전문으로 하는 법학과 부교수다. 전쟁 윤리, 칸트 철학과 인간 존엄성, 자율무기체계의 법과 윤리에 관한 저술로 잘 알려져 있다. 또한 케임브리지 대학교, 버밍엄 시티대학교, 셰필드 대학교 등에서 재직했으며,  영국 국방부, 네덜란드 외무부, 아써 연구소 등 주요 국제 학술·정부 기관에서 자문과 강연을 하고 있다.

오는 3월 2일부터 법적 틀에 대한 합의를 도출할 정부전문가그룹의 마지막 회기가 시작됩니다. 피스모모는  인공지능 무기가 생명체의 살상을 결정해서는 안 된다는 명확한 입장에 근거하여 작성한 권고안을 제네바 대표부와 관련 정부 부처에 전달하였습니다. 한국 정부가 자율살상무기 국제규제 협약 도출에 적극적이고 주도적인 역할을 수행할 것을 촉구합니다.

피스모모는 평화를 모두의 것으로 만들어가려는 다정한 야심가들의 커뮤니티입니다. 피스모모 회원되기로 피스모모의 활동에 함께해주세요:)

피스모모 회원되기: https://peacemomo.org/becoming-momo/
Website www.peacemomo.org
Instagram @daily_peacemomo
Facebook @peacemomo0904