인공지능 무기화와 인간의 자리(강의)

문아영 피스모모 대표가 ‘인공지능 무기화와 인간의 자리’라는 주제로 빠띠 이슈밋업 연소강의의 다섯번째 시간을 7월 8일 온라인에서 진행한 후기를 공유합니다.

문아영 대표는 “규제를 미루며 10년을 허비한 사이 군·산·정·언론·테크 복합체가 AI 시스템을 독점해 나가고 있으므로, 기계에게 인간의 생사 여탈권을 넘기지 않고 인간의 자리를 지키기 위해 시민사회가 연대하여 권력을 감시하고 인권 기반의 결정을 강력히 촉구해야 한다”고 강조했습니다. 핵심 내용은 다음과 같습니다. 

1. 군사 AI의 실전 투입과 치명적 참사: ‘미나브 초등학교 오폭 사건’

• 데이터 오류가 초래한 참상: 2026년 2월, 이스라엘과 미국의 이란 침공 당시 발생한 미나브 초등학교 폭격 사건을 통해 군사 AI 시스템의 실상을 고발합니다. 10년 전 학교로 바뀐 건물이 여전히 군사 시설로 입력되어 있던 데이터 오류와, 이를 검증하지 못한 인간의 실패가 결합하여 175명의 아이들이 희생되는 참사로 이어졌습니다.
• 압도적 가속화와 ‘우다(ODA) 루프’의 한계: ‘메이븐 스마트 시스템’처럼 방대한 데이터를 융합해 1분 30초 만에 표적을 타격하는 가공할 속도 앞에서는, 최종 단계의 인간 운용자가 AI의 추천을 거부하거나 타격을 유보하는 책임 있는 통제를 발휘하기가 현실적으로 불가능함을 강조합니다.

2. 책임의 공백과 의도된 제도적 불능

• 쪼개진 책임과 ‘인공지능 환각’: 자율무기 체계는 결정을 내린 책임자를 특정하기 어렵게 책임을 미세하게 분산시킵니다. 이는 ‘AI가 개입된 전쟁은 책임 소재가 복잡할 수밖에 없다’는 포기와 체념(환각 효과)을 낳습니다.
• 의도적으로 기획된 공백: 미국 국방부가 민간인 보호 담당 인력을 90% 감축한 사례를 들어, 책임의 진공상태가 기술의 한계 때문이 아니라 민간인 보호 시스템을 무력화한 인간의 의도적이고 정치적인 디자인 결과일 수 있음을 경고합니다.

3. 무기 규제 협약(CCW)의 10년 난항과 2026년의 기로

• 만장일치 제도의 맹점과 의도적 지연: 특정 재래식 무기금지협약(CCW)을 통해 10년 넘게 자율살상무기(LAWS) 규제를 논의해 왔으나, 만장일치 의결 구조를 악용하여 개발국들이 협상을 지연시켜 왔습니다. 게다가 현재의 규제 논의는 자율무기 전체 스펙트럼 중 극히 일부인 ‘치명적 자율무기’에만 국한되어 규제 사각지대가 큽니다.
• 2026년 골든타임의 만료: 올해 11월 CCW 검토회의에서 위임 권한이 만료되므로, 올해 안에 구속력 있는 법적 협약을 만들지 못하면 최소 3~5년 이상 아무런 제동 장치 없이 군사 AI 기술이 전장에 난입하는 디스토피아가 도래할 것임을 경고합니다.

4. 한국 ‘K-방산’의 성공 신화 뒤에 숨은 이중성과 규제 공백

• 보편적 인권과 무기 수출의 모순: 한국은 국제사회에서 보편적 인권을 외치면서도, 정작 협상장에서는 규제 범위를 좁히기 위해 ‘치명적’, ‘식민’ 등의 단어를 고집하며 규약 성명 참여를 거부하는 등 이중적인 태도를 취하고 있습니다.
• 가장 위험한 AI의 규제 면제: 국내 ‘인공지능 기본법’은 국방·안보 목적의 AI를 법적 규제에서 완전히 예외로 두었습니다. 새로 발의된 ‘국방 인공지능 법안’ 또한 민간 기술을 군사 무기로 신속히 전용하는 특례만 촉진할 뿐, 인간의 통제 절차나 킬 스위치(긴급 제동 장치) 마련, 처벌 규정 등은 철저히 부재하여 ‘가장 위험한 AI가 아무런 규제를 받지 않는’ 심각한 입법 공백 상태입니다.

5. ‘군·산·정·언·테크 복합체’와 인간성 회복을 위한 질문

• 구조적 공범이 된 사회: 오늘날의 무기화는 과거의 군산복합체를 넘어 군·산업·정부·언론·테크 기업이 얽힌 ‘군·산·정·언·테크 복합체’로 진화했습니다. 무기를 많이 파는 것에만 자부심을 느끼고 윤리적 책임을 외면하는 사회 분위기와 언론의 침묵을 비판합니다.
• 기본적인 인간성의 질문: 강대국과 테크 엘리트들이 국가 시스템을 장악해 나가는 흐름 속에서, 무력감을 딛고 시민 개개인이 다음의 본질적인 질문을 던져야 평화의 가능성이 시작된다고 강조합니다.

“기계에게 인간의 생사여탈권을 정말로 위임할 것인가? 기술을 가진 기업가가 국가 시스템을 훔쳐가는 것을 지켜보기만 할 것인가?”
“우리가 진정 만들고 싶은 세계는 어떤 모습이며, 사람은 대체 무엇으로 사는 존재인가?”