누가 킬러로봇의 행동에 책임을 질 것인가? 군사용 로봇

킬러로봇 행동, 누가 책임질까?

킬러로봇, 즉 자율무기 시스템(Autonomous Weapons Systems)이 점점 현실이 되어가고 있습니다. 사람의 개입 없이 스스로 판단하고, 목표를 설정하고, 심지어 생명을 앗아갈 수도 있는 이 무기들은 공상과학의 이야기가 아니라 바로 우리 현실의 문제로 다가오고 있습니다.

 

그렇다면, 만약 이 로봇이 잘못된 판단을 해 무고한 사람을 해친다면 누가 책임을 져야 할까요?

킬러로봇, 기계는 책임을 질 수 없다

무기라고 해도 결국은 '기계'입니다. 기계는 법 앞에서 어떤 책임도 질 수 없습니다. 인간처럼 감정이나 도덕적 판단 능력이 없고, 자신의 행동에 대해 설명하거나 후회할 수도 없습니다. 따라서 킬러로봇의 행동에 대해 책임을 묻는다면, 그건 반드시 '사람'이어야 합니다.

 

문제는 바로 그 사람, 즉 '누구'인가를 명확히 하기가 어렵다는 데 있습니다.

▶로봇전쟁의 시대

로봇전쟁의 시대 - 킬러로봇 규제, 자율무기 시대를 막을 수 있을까?

책임 공백이 생기는 이유

킬러로봇과 같은 자율무기 시스템은 개발부터 운용까지 다양한 주체가 관여합니다. 기술을 설계한 개발자, 알고리즘을 만든 기업, 무기를 도입한 군 조직, 그것을 현장에서 운용한 병사 등. 이처럼 여러 사람이 관여한 복잡한 구조 속에서 사고가 발생하면 서로 책임을 회피하는 일이 발생합니다.

"나는 단지 기술만 제공했을 뿐이다", "나는 명령에 따라 운용했을 뿐이다"라는 말처럼요.

 

이런 상황을 두고 전문가들은 '책임 공백(responsibility gap)'이라고 부릅니다. 기계가 행동하고, 인간이 책임지지 않는 구조가 되는 것이죠.

드론 - 출처 Pixabay

누가, 어떻게 책임져야 하는가?

전문가들과 국제 인권 단체들은 아래와 같은 방식으로 책임 소재를 나누고자 합니다.

• 군 지휘부 또는 국가의 책임
  무기를 최종 승인하고 실전에서 사용하게 한 군 지휘부 또는 국가에게 법적 책임을 묻는 것이 현재 국제법의 기본 원칙입니다. 무기의 사용 결정은 결국 인간이 내리는 것이기 때문입니다.
  
  
• 기술 기업의 책임
  알고리즘을 개발한 기술 기업이 '예측 가능한 위험'에 대한 설명이나 안전장치를 충분히 마련하지 않았다면, 제조물책임처럼 일정 부분 법적 책임이 가능하다는 주장도 있습니다. 단순한 소프트웨어 개발을 넘어서 인간 생명에 영향을 줄 수 있는 분야라면 더욱 엄격한 기준이 필요합니다.
  
  
• 사회 전체의 윤리적 책임
  일부 학자들은 이런 자율무기의 등장 자체가 기술만능주의, 효율성 중심의 군사 전략, 인간 생명의 가치를 낮게 보는 사회 분위기에서 나왔다고 분석합니다. 그런 흐름을 방관한 우리 사회에도 윤리적 책임이 있다는 것이죠. 물론 법적 책임과는 차원이 다르지만, 충분히 고민해 볼 문제입니다.

AI가 민간인을 공격한 사건

이스라엘의 AI 기반 표적 식별 시스템 '라벤더'는 2024년 가자 지구에서 자동화된 식별로 수천 개의 표적을 지목했고, 그 중 상당수가 민간인이었다는 보도가 있었습니다. 군 당국은 이 시스템의 판단을 몇 초 만에 승인했고, 그 결과 인명 피해가 발생했습니다.

 

이 사건은 "AI가 판단했으니 인간은 책임 없다"는 태도가 얼마나 위험한지를 잘 보여줍니다.

기계에 도덕을 외주화할 수는 없다

이처럼 우리는 "기계가 결정했으니 나는 책임이 없다"는 사고방식, 즉 '도덕의 외주화(moral outsourcing)'에 경계해야 합니다. 무기가 자율적이라 해도, 그 모든 과정은 인간이 설계하고 배치한 것입니다.

 

결국 킬러로봇의 행동도 인간의 선택과 무관하지 않다는 사실을 잊지 말아야 합니다.

---

글을 마무리하며

킬러로봇은 단순히 군사 기술의 발전이라는 관점에서만 접근할 수 있는 대상만은 아닙니다. 전쟁의 효율성을 높이고, 전쟁에 투입된 군인의 위험을 줄이며, 적의 위협에 신속히 대응할 수 있다는 이유만으로 이 기술을 정당화하는 것은 매우 위험한 발상입니다.

기술적으로 아무리 뛰어난 시스템이라 하더라도, 그 무기가 사람의 생사여탈을 자율적으로 결정짓는 순간, 우리는 반드시 스스로에게 물어야 합니다. “이 결정에 책임지는 사람은 누구인가?”라고요.

인간이 개입하지 않은 판단은 윤리의 범주 밖에 있을 수 없습니다.
그리고 윤리 없는 판단은 필연적으로 ‘무책임’을 낳습니다.

즉, 킬러로봇의 등장은 단순한 기술 발전이 아니라, ‘책임의 구조’가 무너지는 전환점일 수 있습니다. 그래서 이 문제는 기술적 편리함이나 군사적 효율성보다 훨씬 본질적인 차원, 윤리적·법적 기준에서 먼저 다뤄져야 합니다.

 

우리가 할 수 있는 것은 책임의 주체를 모호하게 만들지 않도록 계속해서 감시하고, 기술의 방향에 대해 문제제기를 멈추지 않는 것입니다.

함께 읽으면 좋은 글 :

- [AI 무기 규제는 왜 필요한가?]

- [도덕과 알고리즘 : 인간이 빠진 판단의 위험]

 

 

https://youtube.com/shorts/-glRMai39JE?si=UCJidAo2GQMwyxBP