[마감] AI 디스토피아 - 인공지능 무기화에 대해 지금 나눠야 할 이야기(11/17)

AI 기반의 무기는 효율적이라는 이유로 군사 작전에 도입되고 있습니다. 이러한 기술이 초래할 심각한 리스크를 어떻게 규제할지, 윤리적 차원의 논의가 충분히 진행되지도 않은 채로 이미 AI는 현재진행중인 전쟁에서 살상무기로 이용되고 있습니다.

우크라이나와 가자 지구에서 AI가 무기와 결합하여 살상에 사용되고 있다는 소식은 여러 매체를 통해 전해졌습니다. 2021년 리비아 내전에서 사용되어 인간의 감독 없이 자율적으로 민병대를 공격한 터키의 카르구-2 드론 역시 AI 무기의 무서운 현실을 잘 보여줍니다.

안토니오 구테레스 유엔 사무총장은 2026년까지 인공지능과 관련한 사무총장 보고서를 작성하도록 했고, 인공지능 무기화와 관련한 국제 시민단체들의 의견을 한 차례 수렴한 바 있습니다. 유엔인권이사회에서도 인공지능 무기화에 대한 규제 논의가 진행중에 있고, 한국정부의 주도로 시작된 국제회의체인 ‘인공지능의 책임있는 군사적 이용(REAIM)’은 국제사회의 인공지능의 군사적 이용과 관련한 규제를 논의하고 있습니다.

AI 시스템은 민간인과 전투원을 구분하지 못하거나 잘못된 데이터를 바탕으로 비인도적이고 잘못된 결정을 내릴 수 있습니다. 그 ‘잘못된 결정’으로 무고한 생명을 잃을 위험은 크게 증가됩니다. AI 무기의 결정이 비례성의 원칙과 구별의 원칙과 같은 국제인도법(IHL)의 핵심 원칙에 부합하지 않을 가능성 또한 큽니다. 인공지능의 윤리적 위험을 최소화하고, 인공지능이 도덕적 책임 회피에 이용되지 않도록 강력한 국제 규제와 감독이 필요한 이유가 여기에 있습니다.

그러나 AI와 무기산업 모두 시민들의 접근성이 높지 않은 전문성의 영역으로 시민들의 감시나 통제 바깥에 놓여있습니다. AI의 군사적 이용에 대한 윤리적이고 인도주의적인 공식 조사가 거의 부재한 상황에서 효율성의 관점으로만 판단할 수는 없습니다. 산적해 있는 윤리적 문제를 시급히 해결하고 AI가 기본적인 인권과 인도주의 원칙을 침해하지 않도록 엄격한 규정을 마련해야 합니다.

피스모모는 AI의 윤리적, 인도주의적 위험을 인지하며, 지난 2021년 5월, <평화의 권리: 첨단기술 평화권 애드보카시>라는 제목의 보고서를 출간한 바 있습니다. 그 사이 인공지능의 무기화는 급속도로 진전되었습니다. 2024년 11월 17일, 조금 더 깊은 논의의 자리인 “AI 디스토피아 – 인공지능 무기화에 대해 지금 나눠야 할 이야기(11/17)” 를 준비하고 있습니다.

AI 무기화가 어디까지 진전되었는지, 그에 대한 국제사회의 대응은 어느 정도 준비되었는지, AI가 인권과 평화에 초래할 위협과 AI 군사화가 이 지구에서 살아가는 존재들의 평화롭게 살 권리에 미칠 영향을 조명하고자 합니다. 발표를 준비해 오는 분들과 참석자들이 자신의 경험과 전문성, 각기 다른 시선과 질문을 나눔으로써 풍성하게 서로 배우며, 평화를 만들어가는 대안을 모색하는 자리에 초대합니다.

참여신청

🟣일시