📜 로봇 3원칙과 아이, 로봇

이 메일이 잘 안보이시나요?

요일별 뉴스레터 아카이브

<월> 독서퀴즈 뉴스레터

<월요뉴스: 독서퀴즈>

📜 로봇 3원칙과 아이, 로봇

<~2/28까지 응모>

『 십 대를 위한 영화 속 로봇인문학 여행 』

이번 회 독서퀴즈는 도서 요약본에서 핵심 내용을 간추린 <Summary of Summary>로 진행됩니다.

‘로봇이 인간에게 반항하면 어떻게 해야 할까? 인간보다 똑똑해진 로봇이 인간을 지배하려 드는 건 아닐까?’ 이러한 우려를 그린 이야기는 수십 년 전부터 있어 왔습니다. 그렇다면 우리는 마땅히 로봇의 행동을 통제하기 위한 원칙이 필요할 것입니다. 이러한 논의에 대해 가장 유명한 이론이 있습니다.

로봇 3원칙(이하 3원칙)

1. 로봇은 인간을 지켜야(보호해야) 하며, 해치려 들어선 안 된다.

2. 로봇은 인간의 명령을 들어야 한다.

3. 로봇은 자기 스스로 지켜야 한다.

3원칙을 처음 고안해 낸 사람은 SF의 거장 ‘아이작 아시모프’로 그의 단편소설 『런어라운드』에 처음 등장합니다. 이 작품에선 한 로봇이 3원칙 때문에 생기는 모순으로 오작동을 일으킵니다.

『런 어라운드』에선 인간과 함께 외계 행성 탐사에 나선 로봇이 나옵니다. 이 로봇은 ‘A 지역을 탐사하라’는 인간의 명령과 ‘자신의 몸도 지켜야 한다’는 원칙이 서로 충돌하면서 오작동을 일으킵니다. 로봇은 두 번째 원칙을 지키기 위해 탐사 지역으로 다가갔는데, 위험한 가스가 분출되는 것을 보고 세 번째 원칙이 생각나 물러섭니다. 그러기를 반복하다 보니 계속 탐사 지역 주변을 빙빙 돌게 됩니다.

『런 어라운드』는 그래서 붙은 제목이지요. 이 작품을 쓸 때만 해도 아시모프는 두 번째 원칙과 세 번째 원칙을 동일한 범주에 놓은 것 같습니다.

그 이후 1950년에 출간된 소설 『아이, 로봇』은 『런 어라운드』에서 나온 것보다 3원칙에 대해 훨씬 심도 있게 고민합니다. 『아이, 로봇』에 등장하는 모든 로봇은 3원칙에 따라 만들어지는데, 이 3원칙에 대해 전혀 다르게 해석하는 두 개의 인공지능이 충돌하며 여러 가지 사건이 벌어집니다.

(왼쪽부터) 써니와 비키

슈퍼컴퓨터 인공지능 ‘비키’는 첫 번째 원칙, 즉 ‘인간을 지켜야 한다’는 개념을 굉장히 폭넓게 해석합니다. 비키는 “로봇이 인간을 지키려면, 인간의 행동을 통제해야 한다.”고 생각합니다. 로봇 중심의 질서를 흐트러뜨릴 위험이 있는 인간에겐 폭력조차 불사합니다. 대다수의 인간을 안전하게 지키려면 한두 명은 공격해도 괜찮다고 생각하는 겁니다.

이와 달리 인간형 로봇 ‘써니’는 비키의 이런 생각을 “비인간적이라서 찬성할 수 없다.”고 말합니다. 비키보다 써니가 한층 더 인간에 가까운 존재로 그려지지요. 써니는 비키처럼 3원칙을 독자적인 기준에 따라 판단할 두뇌를 가졌고, 결국 인간의 편에 섭니다. 써니는 ‘델 스푸너’형사를 도와 마침내 비키를 중지시키고 원격조종을 받아 움직이는 많은 로봇의 반란을 종식시킵니다.

아시모프는 소설 『런 어라운드』나 『아이, 로봇』에서 자신이 세운 3원칙의 불완전함을 스스로 지적하고, 이 작품을 통해 ‘3원칙과 같은 규칙이 생긴다고 해서 과연 완전한 지능을 지닌 로봇이 안전할까?’라는 질문을 더 강하게 던지고 있습니다.

이런 3원칙의 한계를 극복하고자 나타난 개념이 바로 '2대 프로토콜'입니다. 이것은 2014년에 개봉한 영화 <오토마타>에서 처음 나왔습니다. 3원칙과 달리 2대 프로토콜은 로봇을 하나의 종으로 봅니다. 즉 로봇이라는 종의 진화를 막는 것에 목적을 두지요.

로봇 2대 프로토콜

첫 번째, 로봇은 생명체를 해치거나 죽도록 방치하지 않는다.

두 번째, 로봇은 자신이나 다른 로봇을 고치거나 개조할 수 없다.