스티븐 호킹 박사나 테슬라의 머스크 등 인사들이 "킬러 로봇 무기 개발을 금지하는  국제 규범"을

만들어야 한다고 주장한 바 있다. 나는 이들의 주장에 반은 찬성하고 반은 반대한다.

 

머스크 등은 AI가 마치 영화 터미네이터 처럼 인간을 말살시킬 위험 때문에 반대한다고 한다.

그러나 그건 거의 가능성이 없고 논의의 촛점을 잘못된 방향으로 갈 위험이 있다.

AI가 터미네이터처럼 반란을 일으킨다는 것은 현대 AI에 대한 잘못된 선입견 때문이다.

AI는 인간의 도구이고 도구 이상은 될 수 없다. 하지만 그렇기 때문에 위험한 것이다.

 

예로 부터 전쟁은 인간의 역사와 함께해왔고 아무리 무기가 발달해도 결국은 

누가 더 많은 상대국의 군인과 국민을 죽이느냐로 승부가 나왔다.

즉 전쟁과 죽음은 뗄레야 뗄수 없는 관계가 이어져 왔다.

그래서 전쟁을 일으키는 쪽에서도 상당한 자국민들의 생명을 희생할 

각오를 해야 하기 때문에 강대국도 함부로 전쟁을 일으키기 어려웠다.

미국 같은 강대국도 이제는 많은 미군이 죽는 대규모 정규전 전쟁을 결심하긴 어렵다.

이것이 그동안 강대국과 약소국이 서로 공존하며 평화를 유지해온 균형이다.

 

하지만 AI  킬러로봇이 등장하면 이런 전통적 전쟁의 균형이 달라진다. 

돈은 들겠지만 거의 자국 군인의 목숨을 희생하지 않고도 전쟁수행이 가능해진다.

즉 전쟁이 단지 돈 경쟁이되고 전쟁의 비용에서 국민의 목숨희생이 크게 줄어들어  

그 실질적 정치적 비용이 훨씬 싸지게 된다.

미국은 국민의 여론 악화나 미군 희생을 걱정하지 않고 가벼운 마음으로 전쟁을 시작할 수 있게 된다.

마치 전쟁놀이하듯 드론을 적국에 파견해 마치 게임하듯이 적군을 사냥할 수 있다.

이는 이미 현실이되고 있다. 미군은 텍사스 공군기지의 에어컨 빵빵한 방에 앉아서 인공위성을 통해

지구 반대편 아프간 전장의 프레데터 무인기를 조정하며 적군을 마치 비디오게임처럼 사살하고 있다.

 

내가 AI 킬러로봇을 반대하는 이유는 호킹 이나 머스크 처럼 그 로봇이 반란을 일으켜

터미네이터가 될까 걱정해서가 아니다. 그런일은 결코 일어나지 않을 것이다. 

그게 아니라 AI 킬러로봇은 전쟁의 정치적 비용이 너무 값싸지고 쉽게 만들기 때문이다.

킬러로봇이 보편화되면 이제 전쟁에서도 적군을 직접 조우하거나 가까이서 적의 시체를 볼 필요도 없다. 

한마디로 전쟁의 비디오게임화가 되는 것이다.

이런 전쟁의 비디오게임화가 킬러 로봇 무기를 금지해야하는 첫째 이유인 것이다.

 

이건 마치 대인지뢰나 화학무기 사용을 반대하는 이유와 같다. 대인 지뢰나 화학무기는

적은 비용으로 큰 전과를 올릴 수 있는 대표적인  저렴하고 효과적인 무기이다.  

하지만 국제사회는 두 무기의 사용을 금지하는 방향으로 가고 있다.

 

지뢰가 인간에게 반란을 일으키기 때문에 이를 전쟁에서 퇴출시키려는 게  아니라

지뢰나 화학무기는 전쟁을  너무나 값싸고 쉽게하고 비용에 비해 민간인 들의 피해가

너무 심해서 인도적으로 용납하기 어렵기 때문이다.

 

AI 킬러로봇도 마찬가지로 실용화되면 전쟁을 너무 쉽고 싸게 만들어 돈만 있으면

전쟁을 비디오 게임처럼 가볍게 인명피해 없이 할 수 있게 되어  세계평화와 안정을  

위협하는 요인이 될 것이므로  이를 국제적으로 규제해야 하는 것이다.

적어도 머스크가 걱정하는 식의 터미네이터 출현에 대한 공포는 잘못된 방향이다.