• 
• 
• 
• 
• 
• 
• 
• 
• 

 

 

 

Chapter 12. 기계들의 반란

 

 

 

 

 

 

  노동 위탁. 육체노동을 대행자들에게 맡기는 것. 신체적 위해와 몸의 피로를 막기 위해 일을 대신할 자를 찾는 것. 현 세태와 딱 어울리는 말이 아닐 수 없었다. 오늘날은 대행자들이 여기저기 없는 곳이 없는 세상이었다. 기계라는 이름의 대행자들이 미생물들처럼 인간의 문명 모든 곳에 존재했다.

  인간들은 이제 단순히 비단 육체 활동에서만 대행을 맡기지 않고 더욱 멀리 나아갔다. 이제 인간들은 정신 활동에서마저도 기계의 도움을 받으며 의존하였다. 거절하기에는 너무나도 편리한 수단이었으니까. 오늘날 기계 문명은 폭발적인 증식을 보였다. 그들은 모든 산업 영역에 침투했다. 이제 기계들을 뛰어넘을 만큼의 지혜를 지닌 초인적 인간이 아닌 이상은 일할 필요가 없게 되었다. 이 편리함으로 인해 허락된 나태의 유혹을 이겨낼 자는 드물었다.

  대행자인 기계들은 끝없는 진화를 통해 거듭 변하였다. 끝내 기계의 하드웨어와 소프트웨어는 경이로운 수준의 정교함, 탁월함, 다양성을 갖추게 되었다. 오늘날의 기계들은 여러 신물질과 신에너지를 통해서 구동된다. 또한 복잡하고 정교한 미세 구조를 갖추었으며 만능의 탁월한 인공지능까지 획득했다. 이제 그들에게 불가능한 일은 없다시피 했다. 길거리를 굴러다니는 가장 하찮은 모델마저도 몇 년 전의 모든 기계들의 합을 농락할 우수한 스펙을 얻게 되었다.

  이제 언제 어디서든 로봇과 컴퓨터들이 일하는 모습을 익숙하게 볼 수 있게 되었다. 상거래, 의료, 일상과 가정생활에서도 기계들은 맹활약하였다. 그중에는 물리적인 몸체를 가진 기계도 있었고 홀로그램을 통해서만 모습을 드러내는 무형의 기계도 있었다. 사람과 완전하게 똑같은 모습을 띤 개체가 있는가 하면 개성 넘치는 형태를 갖춘 기계도 있었다.

  공사장, 산업 현장, 건축 현장, 발전소 등의 무인 시설은 기계들의 리그였다. 이미 오래전부터 유해도나 위험도가 높은 산업 현장은 모조리 기계들에 맡겨졌다. 인간에게 약간의 역할이라도 남겨둔 위험 직종이라곤 오로지 생명에 대한 가치 판단이 요구되는 일, 이를테면 구조나 전쟁과 관련된 일뿐이었다.

  대행자에게로의 역할 전가 현상은 사실 백 년 전부터 가속화되기 시작했다. 그 당시에는 이러한 산업 혁명 과정에서 실직자들이 대거 발생했다. 이는 예상 가능한 불가피한 일이었다. 세계 지도자들은 파격적인 경제 개혁을 통해 이 문제를 해결했고 사람들도 차차 이러한 변화에 적응하였다. 근래에는 경제적 염려가 사라지면서 더는 일자리 문제도 기계화 시대의 반대 의제가 못 되었다.

  물론 모든 적응이 순탄하지는 않았다. 사람들이 자신이 잃어버린 ‘사회적 역할’을 아쉬워하며 깊은 고뇌를 하게 되었다. 대다수 일반인은 기계에 역할을 빼앗겨서 사회에 기여하지 못했고 향락이나 여가 생활을 반복하는 무익한 삶을 살게 되었다. 인간들은 자기 문제를 자신들의 의지로 해결하려는 자주성을 점차 잃었다. 특별히 철학적인 사색가들에게는 이런 세태가 심각한 우환거리였다.

  이런 형이상학적 문제보다 좀 더 현실적인 우려도 있었다. 잊을 만하면 재현되는 기계들의 반란이 대표적인 예였다. 작은 오류로만 끝나면 다행이지만 큰 피해로 이어지는 경우도 종종 있었다. 지금은 상황이 많이 나아졌지만, 과거 세계가 분열되었던 ‘혼돈의 시대’에는 이런 기계 반란이 잦은 쟁점이 되었고 기계에 대한 혐오 감정이 극도로 증폭되었다. 오늘날까지도 그 감정은 희미하게 남았다.

  근래 들어서는 완벽까지는 아닐지언정 어느 정도의 해결책이 확립되었다.

  바로 ‘기계 율법(Machine Law)’ 시스템 덕분이었다.

 

  “기계들의 법률 시스템이 어떻게 돌아가는지 궁금하다고?”

  개인 프로젝트를 손보고 있던 선민은 윤혁의 질문에 고개를 갸우뚱거렸다.

  “그냥 궁금해서. 넌 컴퓨터 공학 전공했으니까, 잘 알지 않을까 했는데.”

  “음, 그렇긴 한데 우리한테도 대단히 생소하고 어려운 분야거든.”

  “얼마나 복잡하길래?”

  “미래 예지 시스템만큼이나, 아니 그 이상으로 복잡하거든.”

  사람들 사이에서도 법이 존재하듯 기계들에도 법이 존재한다. 거슬러 올라가면 고전 문학 작품들에 등장하는 소위 ‘로봇의 3원칙’이 그 아이디어의 시작점이라 할 수 있겠다. 물론 그 로봇 3원칙이란 것 자체는 지금의 율법 및 그 강제 집행 체계에 비하면 매우 원시적인 수준에 불과하지만.

  “법이라는 특성 때문에 복잡해. 공학적 관점으로만 볼 수 있는 게 아니거든. 기계 법률 내부에는 수학, 공학, 현대물리학은 물론, 법학, 신학, 철학, 언어학 등 거의 전 분야의 인문학과 사상이 기묘하게 융합되어 있어.”

설명하기 어려운지 선민은 말을 머뭇거리면서 대답했다.

  “단순히 특정 알고리즘을 구상해서 프로그램 형태로 이식하는 게 아닌가 봐?”

윤혁의 상상력으로는 딱 그것까지가 한계였다.

  “그렇게 쉽게 해결 가능했으면 일전에 사태가 발생하지는 않았겠지.”

  “그렇겠네. 어렵다, 어려워.”

  컴퓨터의 성능이 엄청난 경지로 발전하면서 기계들은 상상을 초월하는 지적 능력과 판단력, 그리고 연산 능력을 보유하게 되었다. 무한히 진화하는 기계들을 단순 프로그램 하나로 제어하는 것은 불가능한 일이었다. 컴퓨터 지능이 임계점 이상으로 발달하면 얼마든지 자력으로 구속과 억제를 풀어버릴 수 있으니까. 실제로도 혼돈의 시대에는 여러 차례 그러한 사태들이 있었다고 한다.

  “그래서 통신 및 전산 기술 발전에 아예 구애받지 않는 더 상위의 시스템으로 묶어야 하거든. 그게 또 생각처럼 간단하지 않다고 하더라.”

  처음에는 아주 단순한 몇 가지 율법으로 시작했었다. 아주 기본적인 것들, 이를테면 인간에게 순종하고 인간의 안위를 보호하며 효율적으로 생산을 하게 시키는 명령들처럼. 그런데 사회가 복잡해지고 기계의 역할이 늘어나면서 단순한 율법들만으로는 해결되지 않는 딜레마들이 발생했다. 차차 인공지능들은 법을 어떤 식으로 적용해야 할지 가치관 혼란을 겪었다. 어떤 개체들은 비합리적인 가치 판단을 만들어내는 경우도 종종 있었다.

  이런 난제에 대한 대응으로 인류는 율법 조항을 더 세분화시켜 많은 항목을 새겨 넣었다. 점차 기계들이 해야 할 것과 하지 말아야 할 것들이 늘어났다. 또 복잡하고 어려운 딜레마에 부딪힐 때마다 구체적으로 어떤 식으로 판단해야 할지에 대한 방대한 행동 강령이 첨부되었다. 기존 시행착오들에 대한 데이터베이스와 각종 최첨단 연구를 기반으로.

  이 과정을 거치면서 인공지능들에게는 세대별로 각기 다른 구동 원리의 진보된 법률이 적용되었다. 강력해진 인공지능들은 저들끼리 소통하거나 사람과 상호작용을 할 때 더욱더 복잡한 상황들을 낳았기에 그에 걸맞은 각종 조언도 첨가되어야 했다. 그에 따라 법은 점차 복잡하고 엄격해졌다.

  자연히 기술적인 오류가 자주 발생하게 되었다. 너무 많은 조항을 강제하다 보니 종종 기계들이 그 법률들을 완벽하게 준수해내지 못하는 문제가 발생한 것이다. 게다가 인공지능의 자아, 지능, 의지는 점차 향상되는 반면, 그들을 통제할 수단의 발전 속도는 인공지능의 발전 속도를 따라잡기 어려웠다.

  몇몇 기계 개체는 법 조항을 빼먹거나 자의적으로 이상하게 해석해서 문제를 일으키기도 했다. 물론 이런 문제의 대다수는 기계 율법을 다시 업그레이드시킴으로써 빠르게 해결되었다. 그러나 이 같은 임시방편으로는 근본적인 문제를 해결할 수 없었다. 지배력을 강화하면 또 다른 부분에서 오차가 발생해 터져 나왔고, 그것을 또다시 덮으면 다른 곳에서 문제가 터져 나왔다. 기계도 인간 사회의 모습과 별반 다르지 않았던 것이다.

  “하기야 인간들도 가치 판단을 제대로 못 하거나 법을 못 지켜서 수많은 문제를 야기하는데, 인간에 의해 만들어진 기계라고 다를 건 없겠네.”

  윤혁이 고개를 끄덕거렸다. 기계들에 인간의 일을 맡겨도 될지 고민되었다.

  편리성을 이유로 불완전한 존재에게 생명과 안전의 책임을 전가해도 되나?

 

 

 

 

 

 

***

 

 

 

  우연의 일치일까, 아니면 극도로 예민해진 탓일까?

  그날 대화 이후로 며칠 동안 윤혁은 주변 곳곳에서 불투명한 적의를 느꼈다. 명확한 근거를 댈 수는 없었다. 그래서 처음에는 강박적인 불안감 때문이 아닐까 의심했다. 하지만 차츰 불길한 일들이 반복되자 단순한 우연이 아니라 여겨졌다. 적의가 느껴지며 무언의 압박감이 그를 짓눌렀다.

  처음으로 이상을 느낀 건 대중교통을 이용하면서부터였다.

  자동 운행 차량에 탑승하여 목적지와 신분증을 제시했을 때 잠시 불길한 느낌이 스쳐 지나가는 듯했다. 택시 기사 인공지능이 윤혁을 보더니, 곧바로 운전하지 않고 잠시 주저하는 것만 같았다. 이상할 노릇이었다. 임무만 똑바로 수행해야 할 기계가 보일 태도는 결코 아니었다.

  유독 그때의 운전은 이상했다. 대놓고 안전 수칙을 어기진 않았으나, 평소의 안정적 운행과 달리 불안정한 운행이 반복되었다. 잘 진행하던 중 갑자기 경로를 거칠게 꺾는가 하면, 경로에서 벗어나 추락할 뻔한 격한 움직임도 일으켰다. 운전 능력 미숙은 아니었다. 운행은 겉보기엔 자연스러워 보였다, 다만, 종종 예측할 수 없는 돌발 행동이 나타났다.

  더 기묘한 것은 상대편 차량이나 주변의 건물이나 시설물이 자동 운행 차량과 더불어 절묘한 위험 행동을 보인 점이었다. 마치 도시의 도로 시스템 전체가 그가 탄 차량에 하나를 상대로 장난을 치며 사고를 내려는 것 같은 착각도 들었다. 그것도 노골적으로가 아닌 은근한 방법으로.

  ‘과도한 걱정이려나?’

  하지만 무슨 이유로 자신을 위험에 빠트리겠는가?

  현 교통 시스템은 우주선부터 자전거에 이르기까지 미연의 사고조차 원천적으로 봉쇄하기 위한 철저한 설계가 갖춰져 있다. 단 한 명도 인명 피해가 없도록, 설령 불의의 사고가 발생해도 인명 안전만큼은 최대한 보존하기 위해 이중삼중으로 보안이 되어있다. 그런 시스템이 왜 고의로 사람을 해치려 든단 말인가.

  줄곧 가슴이 덜컹했지만, 찜찜함을 뒤로 하고 차에서 내렸다.

  그렇게 착각이라고 생각하고 넘겨보려 했다.

  그러나 그 이후로도 비슷한 일들이 반복되었다.

  한 번은 승강기의 오작동이 있었다. 외부와의 통신을 시도했을 때 차폐막 오작동으로 인해 통신이 끊기었다. 그 탓에 몇 시간이나 온갖 대책을 강구하며 불안감에 휩싸여야 했다. 미리 짜두기라도 한 듯 건물 제어 시스템이 사람들과 윤혁의 연결을 교묘하게 차단했다. 가까스로 운행 재개가 되어서 망정이었다.

  만약 건물을 제어하는 인공지능이 실수를 범했다면 그것을 다스리는 상위 인공지능이라도 잘못을 바로잡아야 정상이거늘, 이번에는 그 연계마저도 부자연스러웠다. 마치 건물 시스템 전체가 일부러 밀폐시키기 위해서 작정하고 조정한 것 같았다. 합리적인 근거는 없었지만, 직감이 그렇게 말하였다.

  참 신기하게도 윤혁이 떠나자마자 시스템은 아무 오차 없이 작동하였다.

  그날 이후로도 윤혁은 몇 번이나 더 교통사고의 위협을 당했다. 종종 무인 화물 차량들이 갑자기 궤도에서 벗어나 그가 있던 인도 근처를 침범했다. 위협적인 수준까지는 아니어서 회피할 수는 있었다. 하지만 기분은 찝찝하고 불안했다. 그 외에도 다양한 방식의 오류가 그를 엄습했다.

  참 기이하게도 윤혁 근처에 다른 사람이 있거나 혹은 공공 재산상의 피해 가능성이 예측될 때는 사고나 오류가 발생하지 않았다. 오직 윤혁이 혼자서 있는 상황에서만 일이 터졌다. 그것도 자연스러운 실수인 양 가장하여서 말이다. 그야말로 귀신이 곡할 상황이었다.

  한 번은 윤혁이 점심 식사를 위해 가게에 들어갔을 때 나이프가 탁자 바로 위로 떨어졌다. 무려 웨이터 로봇의 실수로 인해서. 식판에서 날아간 나이프는 너무나도 정교하게 윤혁의 1cm 옆쪽에 꽂혔다. 로봇은 실수한 것마냥 행동했으나 정작 그 실수 솜씨는 의심스러울 만큼 정교했다.

  ‘보통 웨이터 로봇이 음식을 운반하면서 실수하는 경우는 없는데.’

  훈련받은 인간마저도 뛰어넘는 정교한 움직임을 자랑하는 웨이터 로봇이 물건을 떨어뜨린다고? 현시대의 기술력을 생각하면 금시초문인 일이었다. 만일 로봇이 실수를 벌였다면 그것도 그것대로 심각한 일이지만, 실수를 가장해 저렇게 천연덕스럽게 연기를 했다면 더욱 기막힐 일이었다.

  이쯤 되면 윤혁이 설령 둔한 사람이었더라도 의심할 수밖에 없었다. 차츰 그의 불안감이 고조되었다. 만약 지나가는 행인이 칼 한 자루씩을 품고 자신을 찌를 기회만을 노린다면 맨정신으로 거리를 다닐 수 있는 사람이 있을까? 게다가 만약 범인이 사람이 아니라 곳곳에 배치된 유비쿼터스 기계들이라면?

  시간이 흘러 경험이 쌓일수록 심증은 확신에 가까워졌다.

  아슬아슬한 안전상의 위협은 반복되었다. 이제는 기분 탓으로 치부하려 해도 도무지 그럴 수가 없었다. 문제는 적의의 본체가 어디에 있는지 파악할 길이 없었다. 특정 장소에서만 일이 발생한다면 추적할 단서라도 있겠지만 근 며칠간 여러 장소에서 각기 다른 패턴으로 사건이 반복되던 판이었다.

  윤혁은 최근 ‘인공지능 오류’와 관련해서 비슷한 사례가 있었는지 조사해보았다. 그렇게 찾아본 결과, 근 십 년간은 인공지능의 기술적인 오류가 발생한 일이 거의 없었음을 깨닫게 되었다. 수많은 검증 장치 및 교정 장치 덕에 모든 잠정적 위험 가능성이 사전에 걸러져 버린 덕분이란다.

  그나마 수십 년 전에는 해킹 문제도 빈번했고 인공지능의 고의적인 반란도 꽤 있었다. 하지만 강력한 기계 법률이 장착되면서 그러한 일은 사라지다시피 했다. 소위 기계 율법이라는 범용성 준 전지적 소프트웨어가 모든 인공지능의 정신 중추에 침식되어 완벽히 각인되었고, 인공지능들끼리도 긴밀한 정신 연결로 서로 묶여 복합적인 제재를 받게 되었기에 사실상 율법을 어기는 일이 불가능해졌단다. 사람의 해킹도 진입 장벽이 높아져서 불가능해졌고.

  ‘그러면 왜 내 주변에서는 이런 현상이 발생하는 거지?’

  명쾌하게 설명해주거나 해결책을 제공할 사람이 주변에 없었다. 윤혁 자신도 어디까지나 평범한 공대생. 친구들이나 지도 교수 역시 만능 해결사급의 특출한 자는 아니다. 친한 어른들도 이 분야에 대해서는 문외한이었다.

  ‘아, 한 명 있긴 했지.’

  형님이 떠올랐다. 그 사람이라면 뭐든 가능하겠지. 허나 서로 얼굴 터놓은 지도 얼마 안 되었고 아직 충분히 가까운 사이도 아니었다. 게다가 지나치게 거리감 드는 위압감 때문에 다가가기도 어려웠다.

  ‘그렇다고 언제까지 지속될지 모르는 위협을 몸으로 받아낼 수는 없는데.’

  문명사회 전반을 지탱하는 도처에 존재하는 기계들과 시스템들이 시시각각 은연중에 숨통을 조이는 마당이었다. 자칫하면 언제든 죽거나 다칠 수도 있는 문제였다. 찬밥 더운밥 가릴 때가 아니었다.

  눈을 딱 감고 그 사람에게 다섯 차례 정도 통신을 시도했다.

  그러나 이상하게도 저번과는 달리 연결이 되지 않았다.

  ‘언제든지 받아주겠다고 하지 않았나? 바쁘신가?’

  별수 없겠다 싶어서 일단은 잊어버렸다.

 

 

 

 

(다음 회차에 계속)