[자료집/ProgramBook] AI 디스토피아 – 인공지능 무기화에 대해 지금 나눠야 할 이야기 weaponization of artificial intelligence and right to peace in the age of war

피스모모는 햇살이 내리쬐던 지난 일요일, AI의 무기화를 주제로 진한 배움의 시간을 가졌습니다. 프리드리히 에버트 재단의 후원으로 피스모모가 주최한 국제 세미나 <AI 디스토피아- 인공지능 무기화에 대해 지금 나눠야 할 이야기>에 많은 분들이 함께해주셨는데요. KAIST의 무기용 로봇개발을 우려하며 전세계 과학자들의 보이콧을 주도하셨던 ’토비 월시‘ 교수님이 기조강연을 통해 AI가 전쟁에 사용된 사례들과 함께 치명자율살상무기가 전쟁에 도입될 경우 어떤 상황들이 초래될 것인지에 대해 짚어주셨습니다. 핵심은 “의미있는 인간 통제(meaningful human control)”를 어떻게 해나갈 것인가에 달려있다는 점을 강조하셨어요.

온라인으로 발제에 참여하신 자동화된 의사결정 연구소의 사이 보로투님도 사람을 데이터로 인식하는 인공지능의 한계를 짚으며 편견과 차별을 학습한 인공지능 기술이 사람을 대상으로 사용된다면, 그 결과는 누가 책임져야 하는가 질문하셨어요. 더 다양하고 많은 존재들이 주변화될 것이라고요.

그 책임은 언론에도 동일하게 적용되는데요. 아시아경제의 김동표 기자님은 인공지능의 긍정적인 측면만 강조하여 보도하는 한국 언론의 행태를 분석해주셨어요. 언론이 여러 분야에 적용되는 인공지능과 그와 관련한 정부 정책에 감시자 역할을 해야된다고요. 더불어 건강한 공론장 역할을 AI가 대체할 것을 우려하는 지금, 언론의 책임의 필요를 다시 한 번 불어넣어 주셨습니다.

진보네트워크센터의 오병일 대표님은 한국 공공기관이 채용시스템에 아무 기준도 없이 인공지능을 이용하여 지원자를 평가했던 사례, 그리고 25년부터 공교육에 도입될 예정인 AI 디지털교과서 사례를 들며 AI를 규제할 제대로 된 법안이 부재한 상황을 짚어주셨습니다. AI의 파급력을 놓고 깊이 토론할 자리를 찾기도 어렵다고요. 그간 인공지능 관련 국내 활동에 앞서오신 경험과 함께 한 번도 공식적으로 논의된 적 없는 인공지능 무기화에 대한 논의가 이번 세미나를 기점으로 더 활발해지면 좋겠다는 기대를 나눠주셨습니다.

이미 현실의 전쟁 깊숙히 인공지능이 개입하고 있습니다. 예상보다 훨씬 빠른 속도로 인공지능은 인간세계를 바꾸어가고 있어요. 이상적으로는 모든 자율무기를 막기를 원하지만 그것은 가능하지 않으니 치명적자율살상무기만이라도 강하게 규제해야 한다는 토비 월시 교수님의 이야기를 들으며 이상과 현실 사이에서 조금이라도 더 평화에 가까운 선택을 하는 것의 의미에 대해 다시금 생각하게 되었습니다. 앞으로도 이 논의 이어갈게요!

함께해주신 모든 분들 고맙습니다!

자료집 보기(한/ENG)