SM카지노의 세가지 원칙에 대해 들어 보았을 것이다. 아시모프의 원칙이라고도 부르는 이 원칙은 “첫째, SM카지노은 인간을 위험에 처하게 해서는 안 된다. 둘째, 첫번째 원칙에 어긋나지 않는 범위에서, SM카지노은 인간의 명령에 복종하여야 한다. 셋째, 첫번째와 두번째 원칙에 어긋나지 않는 범위내에서, SM카지노은 스스로를 지켜야 한다”이다.

그간 몇번의 내용 확대와 심화연구가 이루어졌던 산자부의 “SM카지노 윤리 헌장”의 2007년도 초안 관련 기사나 EU의 SM카지노시민법 2017년도 결의안 기사를 보면, 이들이 SM카지노 삼원칙의 내용을 바탕에 두고 있다는 내용을 보곤 한다. 그렇게 SM카지노의 삼원칙은 모든 SM카지노과 SM카지노 과학자들이 지켜야 하는 뭔가 절대적 권위가 있는 법칙인 것처럼 생각하는 경우도 적지 않다. 그러나 사실 그것은 공상과학 소설가 아이작 아시모프가 그의 소설에서 이야기를 풀어나가기 위해 고안한 일련의 규칙일 따름이다.

일반적으로 1950년에 발행된 그의 단편 소설집 “나, SM카지노(I, Robot)”에서 제시된 것으로 알고 있지만, 그 단편집에 수록된 이야기들은 아시모프가 1940년부터 발표한 단편들을 통합한 것이므로, SM카지노의 삼원칙은 1940년부터 만들어져 왔다고 봐야 할 것이다.

아이작 아시모프(Isaac Asimov)는 러시아에서 태어난 유대인으로 유아기에 미국으로 이주했고, 컬럼비아대학에서 화학을 전공하여 보스턴 대학의 생화학과 교수를 지냈지만, 사람들에게는 공상과학 소설가 또는 과학작가로 더 많이 알려져 있다. 그의 작품으로는 공상과학 소설이 가장 많이 알려져 있지만, 그는 화학, 수학, 물리학 등은 물론 천문학, 생물학, 해부학, 심리학, 어학, 지리, 역사, 그리스 신화, 성경 주석, 문학 비평에 이르기까지 다양한 분야에 500여권의 저서를 남긴 엄청난 다작 작가이기도 하다.

어린 시절부터 펄프 잡지를 보면서 공상과학 팬이 되어, 11세때에 자신의 소설을 쓰기 시작했는데, 18세때부터는 출간을 전제로 한 전문적인 글쓰기를 시작했다. 초기에는 주로 공상과학 소설을 많이 쓰다가, 1957년의 소련의 스푸트니크 위성 충격을 계기로 주로 대중들에게 과학을 소개하는 논픽션 저서를 많이 발표했다. 1982년부터는 주로 본인이 기존에 썼던 소설의 속편을 쓰거나, 통합 시리즈를 발표했는데, 1983년 심장병 수술을 받던 중 잘못된 수혈로 에이즈에 걸려 고생하다가 1992년에 사망했다.

그는 컴퓨터과학과 공학 등의 학제를 통합하는 학문으로서 “로보틱스(Robotics)”, 심리학, 역사학, 인문과학 및 사회과학을 융합체로서 “심리역사학(Psychohistory)”, 가상의 기술 소자인 “양전자(Positronic)” 등의 용어를 만들어 내고 크게 유행시키기도 했다.

“아이, SM카지노”은 1950년 출간된 책으로 아시모프가 1940년부터 1950년까지 미국 잡지 “슈퍼 사ㅣㅇ언스 스토리즈(Super Science Stories)” 와 “어스타운딩 사이언스 픽션(Astounding Science Fiction)”에 실렸던 9개의 단편 소설에 도입부를 추가하여 간행한 책이다. 9개의 소설에는 8명의 SM카지노 주인공이 등장하는데, “아이, SM카지노”에서 등장하는 첫번째 SM카지노은 로비라는 아이를 돌보는 SM카지노이다.

1982년을 배경으로 지나치게 SM카지노에 애착을 갖는 딸아이의 사회성 발달을 염려하기도 하고, SM카지노은 위험할 수도 있다는 두려움을 가진 엄마는 SM카지노을 공장으로 돌려보내고, 딸이 SM카지노에 대한 애착을 그만 두기를 기대했다. 그러나 로비를 잃어버린 딸아이는 항상 침울해졌고, 긴 시간이 흘러도 SM카지노 로비를 잊지 못하고 있었다. 부모는 로비 역시 공장에서 생산되는 하나의 기계일 따름이라는 것을 인식시켜 주기 위해 SM카지노 공장을 방문하는데, 거기에서 딸은 로비를 만나고, 위험에 처한 딸을 로비가 구해주면서, 엄마는 다시 로비를 받아들였다는 이야기이다. 해피 엔딩으로 끝난 이 소설에서 아시모프는 그전까지 존재하고 있던 SM카지노에 대한 기술 공포증을 이야기하고, 어떻게 잘못되었는지를 이야기하고자 했다.

소설 “로비(Robbie)”에서 처음으로 SM카지노 삼원칙이라는 용어가 나오지만, 그 내용은 자세히 설명되지 않았다. 1941년에 발표된 “거짓말쟁이(Liar!)”에서 첫번째 원칙 “SM카지노은 인간을 위험에 빠뜨려서는 안된다”는 내용이 명시적으로 나오지만, 나머지 두 원칙의 내용은 드러나지 않았다. 이 소설의 주인공인 SM카지노 허비(Herbie, RB-34)는 설계상의 실수로 사람의 마음을 읽는 능력을 가진 SM카지노인데, SM카지노의 첫번째 원칙이 적용되어, 사람의 마음을 아프지 않게 하기 위해 의도적으로 거짓말도 하게 된다. 그런데, 솔직히 대답을 해도 사람이 마음을 상하고, 거짓을 대답해도 마음이 상하는 상황에서 허비는 논리적 갈등을 겪다가 결국 고장나 버린다.

이전까지 암시적으로 설명되던 SM카지노의 세가지 원칙이 모두 명시적으로 드러나는 소설은 1942년에 발표된 “주위를 빙빙 도는 SM카지노(런어라운드:Runaround)”이다. 이 소설은 SM카지노이 삼원칙을 적용할 때 생길 수 있는 딜레마를 이야기하고 있다. 2015년 태양계의 행성인 수성을 배경으로 한 이 소설의 주인공 SM카지노은 스피디(Speedy, SPD-13)이다. 셀레늄 채굴 명령을 받은 스피디가 돌아오지 않자 과학자들이 찾아 나섰다. 셀레늄 근처에서 빙빙 돌고 있는 스피디를 발견한 과학자들은 셀레늄 광산 주변에서 스피디의 몸을 썩게 하는 가스도 분출되고 있음을 알았다. 스피디가 제2원칙에 따라 인간의 명령인 셀레늄 채굴을 하러 가면, 자신의 몸이 썩게 되므로 제3원칙에 따라서 돌아 나오고, 돌아 나오다가는 다시 제2원칙을 따르려 광산으로 가는 것을 계속 반복하다 보니, 같은 구간을 빙빙 돌고 있었던 것이다. 그곳이 위험 구간으로 스피디에게 수정된 명령을 전달하기 어려웠던 과학자들은 꾀를 내어 제1원칙이 적용되도록 해서 스피디를 불러내는데 성공했다는 이야기이다.

이런 방식으로 SM카지노의 삼원칙은 “아이, SM카지노”의 모든 단편소설에서 이야기를 풀어 나가는 중요한 소재이고 설정이었다. 아시모프 자신도 SM카지노의 3원칙이 일부 모순될 수도 있고, 동시에 적용할 때 문제가 발생할 수 있다는 생각을 한 듯하다. 예를 들어 1947년에 발표된 “작은 사라진 SM카지노(Little lost Robot)”에서 제1법칙이 작업의 효율성을 저해하거나 SM카지노의 파괴로 이어져, SM카지노은 사람을 해치지 않아야 한다는 조항으로 수정된 SM카지노이 더욱 위험한 상황을 만들어 낼 수 있는 상황을 그리고 있다. 또 1950년에 발표된 “피할 수 있는 갈등(The Evitable Conflict)”에서는 제1 법칙을 지키기 위해 SM카지노이 인류를 장악하려 하기도 한다.

1985년에 아시모프는 “SM카지노과 제국(Robot and Empire)”이라는 글을 통해, 한 명의 사람이 아니라 확장된 개념으로 인류에 대한 제0법칙, 즉 “SM카지노은 인류에 해를 끼쳐서는 안되며, 위험에 처한 인류를 방관해서도 안된다”는 내용을 발표했다. 이에 따라 제1 법칙도 수정될 수밖에 없는데, 제0법칙에 위배되는 경우, 제1법칙이 지켜질 수 없는 경우도 발생하게 된다. 그래서 아시모프 자신조차도 SM카지노의 삼원칙을 절대 법칙으로 주장하지는 않는 듯하며, 심지어 그의 소설 중에는 세가지 원칙을 모두 무시하는 SM카지노이 등장하기도 한다.

이미 주변에 SM카지노이나 인공지능이 흔하게 된 현 시점에서, 모든 SM카지노이나 인공지능이 SM카지노의 삼원칙을 포함하거나 준수하도록 강제적으로 설계되지는 않고 있다. 예를 들어 SM카지노의 일종인 무인 살상 드론이 그 예이다. 이렇게 아시모프의 SM카지노 삼원칙은 그의 소설을 풀어나가는 소재로서 활용되었고, SM카지노의 개발에 절대적인 법칙으로 준수되고 있지는 않지만, SM카지노의 역사 초기부터 SM카지노과 인공지능의 윤리에 대해 고민해 볼 수 있는 계기를 만들어 주었다는 측면에서 큰 의의를 갖는다.

<필자:문병성 moonux@gmail.com

필자인 문병성은 금성산전, 한국휴렛패커드, 애질런트 테크놀로지스, 에어로플렉스 등 자동화업계와 통신업계에 30년 이상 종사했으며, 최근에는 SM카지노과 인공지능 등 신기술의 역사와 흐름에 관심을 갖고 관련 글을 매체에 기고하고 있다.