“영리한 기계는 우리를 대체할 것인가, 우리와 공존할 것인가, 아니면 우리와 ‘융합’할 것인가? 인공지능의 시대에 인간임은 무엇을 의미할 것인가? 당신은 인간임이 무엇을 뜻하기를 원하며, 미래를 그렇게 만들려면 어떻게 해야 하는가?” – 맥스 테그마크 (물리학자, 메사추세츠 공대)의 저서 중 p79~81-

오랜 정체기를 겪었던 인공지능 연구는 90년대 이후 개인용 인터넷이 전 지구적으로 보급되면서 새로운 국면을 맞게 된다. 과거에는 감히 상상도 할 수 없던 수준의 방대한 데이터를 매우 짧은 시간 안에 축적할 수 있었고, 그렇게 모인 빅 데이터를 소스로 삼는 기계학습(machine-learning) 방식의 연구가 성과를 거두고 있는 것이다. 현재의 인공지능 연구 방식은 인간에 의해 설계되지만, 인간에 의해 완성되지 않는다. 아기로 세상에 태어난 우리들이 학습을 통해 성장하며 성인이 되듯, 방대한 양의 데이터베이스에 기반하는 현대의 인공지능 연구는, 엄청난 양의 시행착오를 거치며 그것이 스스로 답을 찾아낼 수 있도록 설계된다. 생물학적 한계를 지닌 우리들과는 비교할 수 없을 정도의 확장성과 연결성을 가지며, 쉬지도 지치지도 않는 이 새로운 ‘학습자’들은, 인류의 전유물이라고 여겨졌던 직관과 창의를 비롯한 많은 영역의 경계를 이미 넘어서기 시작했다. 경계를 넘어선 저들의 종착지가 어디인지 우리는 알지 못하며, 알 수도 없다.

어떤 일을 가장 잘할 수 있는 방법은 그 임무를 수행하는 기계학습 인공지능을 개발하는 것이다. 인공지능을 가장 잘 만들 수 있는 방법 또한 ‘인공지능을 개발하는 인공지능’을 만드는 것이다. 임무의 수행을 위해, 그들은 자기 자신을 ‘인식’하며, 이를 바탕으로 스스로를 반복적으로 자체-개선(self-improvement) 시킬 것이다. 전문가들은 인공지능의 이러한 재귀적 자체-개선(recursive self-improvement)이 거듭되면 어느 시점에 이르러 지능의 대폭발이 나타날 것이라고 내다본다. ‘초지능(super intelligence)’이라고 불리는 이것의 역량에 대해 철학자이자 신경과학자인 샘 해리스(Sam Harris)는 인체의 생화학적 회로와 인공지능의 전자 회로가 감당할 수 있는 정보량의 차이만 비교해봐도, 인간이 2만 년간 연구해야 할 분량을 1주일 안에 해낼 수 있는 수준이라고 이야기한다. 그 출현 시기는 언제가 될까? 트랜스 휴머니스트 선언으로 유명한 옥스포드 대학교의 철학자 닉 보스트롬(Nick Bostrom) 교수는 ‘기술적 특이점(Technological Singularity)’이라 불리는 이 시점이 언제 올 것인가에 대해 관련 전문가 170여 명의 의견을 설문한 바 있다. 놀랍게도, 그들 중 절반이 약 20년 후에, 90퍼센트가 약 50년 후에는 그 시기가 도래할 것으로 내다봤다. 기준을 아무리 보수적으로 잡아도, 현재의 2, 30대들은 적어도 그들의 생애 내에 이 시기를 맞게 될 것이다.

구글의 기술 이사이자 미래학자인 레이 커즈와일(Ray Kurzweil)을 비롯한 낙관론자들은, 기술적 특이점이 우리에게 가져다줄 엄청난 가능성에 대해 주목하며, 트랜스휴먼이 되어 번영하게 될 신인류를 상상한다. 반면에 스티븐 호킹(Stephen Hawking)과 일론 머스크(Elon Musk)와 같은 저명인사들은, 자의식을 가진 초지능이 불러올 인류의 디스토피아에 대해 심각한 우려를 나타내기도 한다. 철학자 닉 보스트롬은 초지능에 이르는 길목에서 인간이 그들에게 어떤 목표를 설정해줄 것인지에 모든 결과가 달려있다고 말한다. ‘인류의 행복’을 그 대답으로 해보는 것은 어떨까? 하지만, 인류의 행복이 인공지능에게 어떻게 정의될 수 있을까? 행복한 사람들의 뇌를 분석하여 그것을 유발하는 호르몬을 주입한다면? 우리의 행복을 목표로 하는 인공지능이 인류 전체가 영원히 마약에 중독된 상태를 설계할 수도 있는 것은 아닐까? 우리는, 스스로 잘 알고 있다고 생각해온 많은 기본적 전제들에 대해서 사실 정확히 아는 것이 별로 없다.

다가오는 인공지능 시대는 이처럼 우리로 하여금, 대답하기를 유보했던 많은 어려운 질문들에 대해 다시 생각해 볼 것을 재촉한다. 역사학자 유발 하라리(Yuval Harari)는, 그의 저서 <호모데우스, 미래의 역사>에서 인류가 권위의 원천을 잃게 되는 이 시대에, 인본주의를 넘어서는 새로운 방향이 우리에게 필요함을 역설한다. 생물학적 진화의 계보를 탈선한, 스스로 진화를 거듭하며 다가오는 그들은, 어쩌면 인간을 닮은 사이보그나 레플리카가 아닐 것이다. 그들은 인간과 같아지는 것에는 애초에 관심이 없으며(그것은 지극히 인간적인 생각일지도 모른다.), 인간의 수준이라는 정류장을 순식간에 무심코 스치듯 지나가 우리는 짐작도 할 수 없는 지평선 너머로 향할 것이다. 샘 해리스는 그의 TED 강연에서 우리가 만들고 있는 것의 지능이 우리의 한계를 훨씬 뛰어넘는 것일 때, 우리는 지금 일종의 신을 만들고 있는 것일지 모른다고 말한다. 주어진 얼마 남지 않은 고민의 시간들이 무겁게 느껴진다.