인공지능이 무기와 만나면?

프로젝트 소개

일상의 일부가 되어버린 인공지능은

무기체계를 바꾸고 무력분쟁의 양상 또한 바꾸고 있습니다.


특히 핵무기와 인공지능의 만남은 핵무장 국가들 간의 안보를 둘러싼 역동에

영향을 미칠 것으로 예측되는데요.


한반도와 동아시아야말로 그 변화의 정중앙에 놓여 있습니다.

하지만 이에 대한 사회적 논의는 거의 찾아보기 힘듭니다.


피스모모는

다음세대재단과 오픈소사이어티재단이

진행하는 인권활동지원사업을 통해

평화권 관점에서 인공지능과 살상무기의 관계를 검토하고

이에 대해 놓치지 말아야 할 이야기를 함께 해나가고자 합니다.

첨단기술과 평화권 애드보커시

전문가 인터뷰

-

박성원ㅣ 국회미래연구원 혁신성장그룹장


"인간의 역사를 학습한 인공지능이 인간보다 훨씬 비인간적인 의사 결정을 할 수도 있습니다. 인종차별, 계급차별 등이 인공지능 알고리즘에서 종종 발견 되고 있으니까요. 그러나 좋은 데이터로 학습시킬 경우, 이런 윤리적 딜레마는 해결될 수 있다고 봅니다. 인공지능은 합리적 기계니까요."


-


김종대ㅣ 연세대 객원교수


"로봇에 의해서 사제폭탄을 제거하는데 어떤 미군 병사가 그 로봇을 구하기 위해 위험에 뛰어들죠. 로봇은 물건인데 의인화되어 인격이 있다는 이런 식의 착각이 들게 되는 것 이죠. 그동안 정든 거예요. 이런 식으로 우리가 예상할 수 없었던 문화적인 변화와 충 격이 심상치 않았다는 것입니다. 그런데 이때만 하더라도 인공지능이 화두가 아니라 로봇이었어요. 그런데 여기에서 또 변화가 예상되는 것은 인공지능이 이런 전쟁의 그 동안의 양상, 문화에 어떤 충격 또 다른 2차 물결을 형성한다는 것을 예상할 수 있습니다."


-


레이 어체슨ㅣ 킬러로봇금지캠페인, 평화와 자유를 위한 여성국제연맹 군축활동가


"한국은 억압하고 죽이기 위한 무기에 투자 하는 것이 아니라 평등, 평화, 복지를 증진하기 위한 기술인 "선을 위한 기술(tech for good)"을 발전시켜야 합니다. 자신들이 주시되고 있으며 비판 받고 있다는 사실을 한국 정부와 기술 산업이 확실히 이해할 수 있도록 하기 위해서는 이러한 입장을 국가적으로, 그리고 세계적으로 더욱 진전시키는 것이 중요합니다."


-


정욱식ㅣ 평화네트워크 대표


"인공지능은 도덕적인 판단은 못한단 말이에요. 예를 들면 인간이 판단하는데 인간의 오류 가능성은 있지만, 인간이 가장 기본적인 이성적 사고에 근거하고 있는 건 생존 본능이에요. 하지만 인공지능은 그런 게 없는 거죠, 인공지능은 기계화된 정보만 가지고 판단을 할 텐데, 그렇게 된다면 인간의 감정이라든지, 이성이라든지 특히 생존본능을 가지고 판단할 수 있는 여지가 제거 될 가능성이 높은 것이죠."


-


임예준ㅣ 고려대학교 공공정책대학 통일외교안보전공 조교수


"자율살상무기 개발의 통제와 관련된 시민사회의 활동도 국제사회의 연대를 통해 자율무기 개발로 인한 전 쟁의 비인간화 비인간성의 문제에 대한 성찰 촉구하는 것, 개별적 인권 침해의 문제를 넘어선 인류공동의 가치의 보존의 문제, 즉, ‘인간존엄성의 훼손’을 강조할 필요가 있다고 생각합니다."


-


메리 앤 라이트ㅣ 평화재향군인회 한반도 평화캠페인 코디네이터


"전쟁에서 표적에 대한 의사결정 책임이 인간의 손에서 인공지능의 컴퓨터 프로그램에게 넘겨지게 되면서 인공지능과 자율무기시스템은 전쟁의 패턴을 바꿀 것입니다. 익명의 컴퓨터 프로그래머는 도덕적 혹은 윤리적인 책임 없이 죽음을 결정합니다. 컴퓨터 프로그램의 작은 변화는 때때로 인종이나 다른 특성에 따라 어떤 사람들에게는 죽음을 뜻할 수도 있습니다. 그러나 이러한 변화를 결정한 개인이나 집단을 추적하기 어렵기 때문에 도덕적, 윤리적인 책임과 멀어질 수 있는 것이죠. 따라서 인공지능 무기 체계의 도입은 평화권을 분명하게 축소시킬 것입니다."


-


메리 조이스ㅣ 피스보트(Peace Boat) 국제 코디네이터


"인공지능과 무기체계에 대한 대응은 평화운동 뿐만 아니라 정부, 민간 부문, 특히 기술 회사를 포함해 다양한 분야와 협력 하는 것이 중요합니다. 사전 예방과 인도주의의 원칙에 기초해 지금 당장 행동에 나서 야 합니다. 이미 기술이 개발되고 그 영향이 시작되어 버리면 그때는 너무 늦어버릴 것 입니다. 담론과 토론의 중심에 사람과 인도주의를 중심에 놓는 것도 중요합니다."


-

함께한 사람들

가람ㅣ 평화페미니즘연구소(FIPS) 연구위원

광희ㅣ 피스모모 리서치랩 팀장

대훈ㅣ 평화/교육연구소(TEPI) 소장

민영(뭉치)ㅣ 전쟁없는세상 무기감시팀 코디네이터

세라ㅣ 동국대 북한학과 박사과정 수료

아영ㅣ 피스모모 대표

페이스북
카카오톡
floating-button-img