[여적]킬러로봇

30년 전 폴 버호벤 감독의 영화 <로보캅> 주인공 머피는 일종의 ‘킬러로봇’이다. 치안활동을 벌이다 최악의 경우 방아쇠를 당길 수 있도록 프로그램되어 있다. 그런데 개인적인 감정을 말소하지 않은 프로그램이 실수로 삽입돼 정체성의 혼돈에 빠진다. 방아쇠를 당길 때 인간처럼 머뭇거리는 행동을 보인 것이다. 이것은 머피가 인간과 기계의 하이브리드라는 ‘출생의 비밀’ 때문에 가능한 일이다.

2013년 4월 23일 영국 런던 국회의사당 광장에서 열린 ‘킬러 로봇을 멈춰라’ 캠페인에 등장한 로봇. 출처: Gettyimages이매진

감성(윤리의식)이 거세된 킬러로봇은 이와 다르다. 무고한 인간을 ‘아무런 감정 없이’ 적으로 인식해 공격할 수 있다. 로봇이 인간을 곤경에 빠뜨리는 묵시론적인 장면은 <2001: 스페이스 오디세이>에서 섬뜩하게 그려진 적이 있다. 이를 예견했던 SF작가 아이작 아시모프는 <라이어>에서 로봇의 3대 원칙을 만들었다. 요약하면 ‘로봇은 인간에게 해를 끼쳐서는 안되고, 인간의 명령에 절대 복종해야 하며, 이들 두 가지에 위배되지 않는 경우 로봇은 스스로를 보호해야 한다’는 것이다. 그는 이것도 모자랐는지 <로봇제국>에서 ‘로봇은 인류에 해가 가는 행동을 해서는 안된다’는 원칙을 추가했다.

킬러로봇은 먼 미래의 일이 아니다. 지난 2월 미국 국방부는 테러조직 알카에다의 고위 군 사령관인 카리 야신을 드론 공습으로 살해했다고 밝혔다. 전투용 드론은 원격지에서 조종사들이 조종하는 로봇이다. 또한 미 해병에서는 기관총과 센서를 부착한 무인전투로봇을 실전배치하는 방안이 논의되고 있다.

최근 영국의 물리학자 스티븐 호킹 박사는 “인공지능(AI)의 잠재적인 리스크에 대비하지 않으면 그것은 강력한 자동화 무기나 소수가 다수를 억압하기 위한 수단으로 변질될 수 있다”고 경고한 바 있다. 13일부터 스위스 제네바에서 열리는 특정재래식무기금지협약 회의에서 킬러로봇을 주제로 해 논의한다고 한다. 테슬라의 일론 머스크, 구글 딥마인드의 무스타파 술레이만 등 기업인 100여명은 지난 8월 킬러로봇 금지요청 서한을 유엔에 보낸 바 있다. 킬러로봇이 독재자·테러리스트의 손에 들어가거나 해킹을 당하면 대형참사를 빚을 수 있다는 우려 때문이다. AI가 탑재돼 스스로 움직이는 킬러로봇이 출현했을 때 어떤 일이 벌어질지 섬뜩할 뿐이다.

<박종성 논설위원>