기술적 특이점

미래학, 기술사학의 개념 중 하나로, 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점을 의미한다.

간략하게는, 기본 개념은 존 폰 노이만이 제시하였고, 수학자이자 소설가인 버너 빈지(Vernor Vinge)가 1983년의 잡지의 기고문과 1993년의 논문 '다가오는 기술적 특이점'을 통해 최초로 그 개념을 정의하였으며, 레이 커즈와일이 2005년의 저서 '특이점이 온다'를 통해 이 개념을 더욱 구체화하였다.

이런 기술적 특이점의 개념이 일반인들에게 널리 알려지기는 BSD Unix를 만든 유명한 컴퓨터 기술자인 빌 조이(William Nelson Joy)가 쓴 미래에 왜 우리는 필요없는 존재가 될 것인가라는 글을 통해서이다. 2000년 세기말에 발표된 이 글은 기술자 사회를 넘어서 21세기 미래의 모습을 전망한 글로 일반사회인들에게도 큰 화제를 불러일으켰다.

보통은 가장 가능성이 높은 인공지능을 통한 초지능을 기준으로 특이점을 생각하지만, 여러가지 이설 또한 있어서 기술적 특이점의 개념에 있어서 인공지능이 반드시 필수요소는 아니다. 하지만 특이점을 넘어서는 순간 '현생인류'의 힘으로는 기술을 이해하거나 따라잡지 못한다는 것에 대해서는 이설이 없다. 따라서 인간이 기술사학적으로[1] 추론 가능한 미래의 한계점을 의미하기도 한다.[2]

레이 커즈와일은 기술적 특이점을 블랙홀의 사건의 지평선에 비유했다. 특정 경계를 넘어서게 되면 그 이전까지 인간이 갖고 있는 지식과 법칙들이 통하지 않는 세계가 펼쳐진다는 점에서, 그럴싸한 비유다.

일반적으로는 인공지능이 인간의 지능을 넘은 시점부터 매우 빠른 속도의 학습과 연쇄적 자체개량을 통해 지능폭발을 일으키게 되고 결과적으로 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점=초지능이 탄생하는 시점=비생물학적 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점을 특이점이라고 부른다. 이것은 생물학적 진화 속도를 완벽하게 초월하는 것이며, 무어의 법칙을 깨는 속도의 기술발전이다.

영국 옥스퍼드 대사전의 정의에 따르면 “인공지능을 비롯한 기술들이 발전해 인류가 극적이고 불가역적인 변화를 겪게 되는 가설적 순간”[3]을 가리킨다.

잘 언급이 안 되는 개념인데 더 정확히는 인공지능보다는 수확가속의 법칙(Law of Accelerating Returns)이 특이점 이론의 핵심 개념이다. 수확가속의 법칙은 진화의 기본 원리로서, 인류의 기술 발전 단계에서 갑자기 나타난 것이 아니고 우주 탄생부터 물리학, 화학, 생물학을 넘나드는 장대한 발전과정을 거쳐서 마침내 인류의 기술 발전 단계에도 도달하게 된 것이다. 즉, 수확가속의 법칙에 의하면 인공지능이란 인류의 지능을 통해 탄생하였으면서도 그를 훨씬 넘어서는 더 강력한 지능으로서 진화의 원리에 의해 마땅히 출현할 수밖에 없는 존재가 된다.

수확가속의 법칙에 대해 간략하게 요약하면 이와 같다. 문명은 이전 세대 문명이 가졌던 아이디어와 돌파구를 '재목적화(repurposing)'하면서 발전한다. 각 세대의 기술은 이와 비슷하게 이전 세대의 발전을 기반으로 발전의 선순환을 창조한다. 각각의 새로운 세대의 기술은 이전 세대 기술의 어깨 위에 서 있다는 것이 커즈와일의 거대한 아이디어이다. 이러한 방식으로 기술의 발전은 다음 세대의 더 나은 기술을 가능하게 만드는 것이다. 각 세대의 기술은 이전 세대보다 개선되기 때문에 발전의 속도는 갈수록 가속된다. 의자를 생산하기 위해 수동 공구를 사용하는 방식에서 전동 공구를 사용하는 방식으로, 다시 조립라인을 사용하는 방식으로 발전해왔다고 생각해보자. 생산속도는 각 단계마다 빨라진다. 각 세대에서 사용된 이러한 공구들이 더 나은 공구를 디자인하고 만드는데 사용된다고 생각해보자. 커즈와일은 컴퓨터 칩 분야의 가속적인 발전이 엔지니어들이 가장 빠른 소프트웨어와 컴퓨터를 가지고 더욱 빠른 컴퓨터 칩을 설계했기 때문이라고 말했다.

이외에도 레이의 저서 '특이점이 온다'를 보면 질서와 복잡성이란 개념을 통해 더욱 더 자세하게 논증을 해놨다.

일정 수준을 뛰어넘은 인공지능은 인류가 수만 년간 이루어낸 기술 발전이 제자리 걸음으로 보일 정도로 폭발적인 수직 성장을 하게 된다. 결국 초지능체가 개발한 기술은 더 이상 현 인류의 지능으로 그 원리를 이해할 수 없고 모방할 수 없는 기술적 복잡성을 지니게 된다. 쉽게 표현하면 침팬지에게 미적분을 이해시키는 것과 비슷. 이러한 현상이 시작되는 시점을 기술적 특이점 이라 부른다. 인공지능의 지적 능력이 인류 최대의 지적 능력을 뛰어넘는 순간 말이다.

아서 클라크의 과학 3 법칙 중 세 번째인 "충분히 발달한 과학기술은 마법과 구분할 수 없다."라는 말은, 기술적 특이점에 이른 미래 사회에 대한 은유로 해석될 수 있다. 기술적 특이점에 도달한 사회에서, 인간은 첨단 문물의 원리를 이해하기보다는, 마치 마법 지팡이 쓰듯 그 효과만을 누리게 될 것이기 때문이다. 그래도 지대한 노력을 들이거나 안되면 전능한 인공지능에게 부탁해서 사람이 이해하는게 가능은 할 것 같다. 눈깔에 바늘을 처넣어서 정보를 주입받는다던지(...) 물론 지금도 과학자와 엔지니어같은 관련 인력을 제외한 대중은 그렇지만.

이 이후부터는 일반인은 물론이고 인류중 가장 똑똑하고 박학다식한 전문가들 조차도 새로운 발명품이 왜 어떻게 작동하는지 모르게 된다는 것이다. 강아지나 원숭이에게 스마트폰의 작동 원리를 가르칠 수 없는 것처럼, 발전된 기술을 자신에게 적용 받지 않은 인간의 경우 어렴풋이 예상하더라도 빗나갈 확률이 높고, 생물학적 한계 때문에 죽었다 깨어나도 아무런 해설 없이는 이해할 수가 없다! 인간으로서 대체 무슨 원리로 뭐가 어떻게 되는지 알 길은 없지만, 그러한 초과학의 혜택은 누릴 수 있을 거라는 점이 포인트. 마치 개가 원자력 발전소에서 나오는 전기로 난방이 되는 집에서 살거나 원숭이가 비행기를 타는 것처럼.


존 폰 노이만(좌측)

사람이 기술의 발전을 따라잡을 수 없는 시기로서 특이점이란 단어는 존 폰 노이만의 말에서 처음 언급되었다. "기술의 항구한 가속적 발전으로 인해 인류 역사에는 필연적으로 특이점이 발생할 것이며, 그 후의 인간사는 지금껏 이어져온 것과는 전혀 다른 무언가가 될 것이다."[4] 정확히는 동료였던 스타니스와프 울람이 1958년 폰 노이만의 사후에 그에 대해 회고하며 쓴 글에서 언급된다. 특이점의 정의를 현재와 같이 정립한 것은 수학자이자 SF 소설가인 버너 빈지가 1983년에 쓴 글이다.

그 시기는 의견이 분분해서, 2035년~3000년까지 편차가 매우 크다. 특이점 이론을 주장하는 이들 중에서 가장 정확한 예측을 하는 미래학자인 레이 커즈와일은 약 2045년 전후로 인공지능이 인류 전체의 지능을 초월하면서 특이점이 도래할 것이라고 주장한다. 커즈와일 본인의 말에 따르면 그 때는 90대가 될 자신도 기술의 효과를 누릴 것이라고 한다.



이 시기가 오면 인간이 기술을 발전시키는 것이 아니라, 기술이 기술을 발전시킬 것이라고 한다.

인간급의 지능으로 스스로 생각할 수 있는 인공지능 기술이 개발되지 않은 현재는 컴퓨터를 인간이 직접 설계하지만, 인공지능의 수준이 인간급으로 발전되면, 인공지능 스스로 컴퓨터를 설계하는 것이 가능하다는 이야기. 더 나아가 인공지능 자신이 그 자신보다 더더욱 뛰어난 인공지능을 개발하는 것이 가능해지는 것이다. 그러면 인공지능에 의해 발전된 인공지능이 더 우수한 지적 능력으로 더 우수한 시스템을 구성하고... 이 사이클이 반복되면 발전 속도는 기하급수로 상승할 것이다.

게다가 인간은 뇌에 기반하는 생물구조적 한계상 처리력을 강화하는 게 어렵고 사실상 복제도 불가능하지만, 인공지능은 그 구조상 복제 및 확장, 기능 업그레이드가 매우 손쉽다. 따라서 이렇게 발전된 기술이 다음 기술을 발전시키는 데 사용되며 이게 누적될수록 점점 더 기술의 발전은 빨라져서 결국 기술발전의 그래프는 수직에 가깝게 그려질 것이며 이 시점이 바로 특이점이라는 이야기. 이해가 안된다면 인류사에서 바퀴, 문자, 인쇄술, 증기기관, 컴퓨터, 스마트폰의 발명 전후 모습을 비교해보면 쉽다. 컴퓨터의 등장이후 몇십년만에 엄청난 발전이 이루어졌는데, 스마트폰의 발명은 수년만에 인간의 삶을 윤택하고 편리하게 바꾸어 놓았다.

특이점이 오면 현생인류는 야생상태의 멸종위기 동물처럼 절대다수가 도태되고 '소수만 보존' 되는 것이 아닌가 하는 의문을 가질 수 있다. 이에 대해 커즈와일은 낙관적이다. 인간의 존엄 및 인간성 역시 미래 세계에서도 유지될 것 이라는 주장을 했기 때문이다. 즉, 원하기만 하면 얼마든지 개조가 가해지지 않은 순수한 현생인류인 채로 인간적인 대우를 받으면서 살 수 있을 것이다. 물론 레이가 마냥 낙관적인 것은 아니며, 오히려 기술 경계론자 중 하나인 자신이 왜 그저 무조건 낙관주의자인 것마냥 매체에서 표현되는지에 대해 의아함을 나타냈다. 그의 저서를 제대로 읽어보면 알겠지만 그는 기술 발전에 따른 위험도 또한 기하급수적으로 증가할 것이기에 미리부터 가이드라인 및 제도를 만들어야 한다고 주장했다. 그가 낙관적으로 생각하는 부분은 지금까지 인류가 불완전하나마 해내왔던 것처럼 새로운 기술을 통제할 수 있는 가이드라인 및 제도 또한 마련 가능하다는 것이다.

'기술적 특이점'이란 것의 정의에 대해 좀 더 구체적으로 적자면 폰 노이만은 그저 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점이라 정의했고, 버너 빈지는 인공지능을 통한 초지능이 탄생하는 시점이라 정의했다.

마지막으로 레이 커즈와일의 정의에 대해 많은 사람들이 버너 빈지의 정의와 헷갈려서 오해하는데, 레이의 정의에 따르면 비생물학적(만들어진) 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점이다.

이게 빈지의 정의와 무엇이 다른가 하면, 빈지의 정의는 단일한 초지능기계를 통해 특이점이 온다고 봤을 가능성이 높은 반면, 레이는 기술의 분산화를 강조했다. 그에 의하면 나노공학의 발전에 따라 인류의 뇌 속에도 나노봇을 통해 컴퓨터가 들어서게 될 것이고, 인간의 생물학적 지능과 인공지능은 이를 통해 연결될 것이다. 빈지의 견해와 마찬가지로 초지능은 필연적으로 오긴 하나, 이는 단일한 기계가 아닌 전세계에 분산하는 클라우드 컴퓨팅과 비슷한 것이 될 것이다. 그러니까 인간의 뇌 내부에 있는 비생물학적 지능과 외부에 있는 비생물학적 지능을 모두 포괄하여 이들이 기존의 생물학적 지능의 총합을 넘어서는 시점을 특이점이라고 본 것이다. 트랜스휴머니즘의 요소를 빈지의 특이점 개념에 포함시켰다고도 볼 수 있다.

유명한 기술사학자이자 평론가인 케빈 켈리(Kevin Kelly) 또한 레이의 기술적 특이점과 관련있는 개념으로 인간과 기계가 네트워크를 통해 연결되며 탄생하는 행성 규모의 유기체인 홀로스(Holos)라는 개념을 주창한 바 있다. 그는 "나는 이 행성규모의 층을 홀로스라고 부를 것이다. 홀로스는 모든 기계의 집단행동과 결부된 모든 인간의 집단지능에다가 자연의 지능, 이 전체로부터 출현하는 모든 행동을 포괄한다. 이 전체가 바로 홀로스다. 홀로스는 우리가 살아갈 새로운 플랫폼이다. ... 이 새로운 플랫폼의 대규모 유비쿼터스 상호연결은 처음에는 기존의 자연스러운 확장에 불과한 것처럼 보인다. 이 모든 특성들이 꾸준히 증가함에 따라 우리는 어떤 변곡점, 복잡성의 문턱을 통과한다. 변화가 불연속적이 되어 갑자기 새로운 상태에 놓이게 되는 시점이다. 새로운 표준상태들로 이루어진 다른 세계다." 라는 말로 이를 표현했다

사피엔스의 저자로 유명한 유발 하라리(Yuval Harari) 예루살렘 히브리대 역사학 교수 또한 마찬가지로 단순한 인공지능의 인류 지배 같은 경쟁적 개념이 아니라 오히려 인간과 기계의 '결혼'에 대해 이야기해야 한다고 내다봤다. 그런데 기계를 대체 왜 인격체로 만들려고 하는걸까[5]

여태껏 '기계를 인격체로 만든다'라는 개념이 기술적으로 정확하게 정의된 적 없다. 왜냐하면 아직 우리는 인간이 인격을 갖게 해주는 것이 대체 무엇인가에 대해 알지 못하기 때문이다. 따라서 기본적으로는 생물학적으로 인간이기만 하면 인격을 갖고 있는 인격체라고 여기고 자연인권을 갖게 되긴 하지만 알다시피 같은 인간이라도 해도 정신에 문제가 있거나 나이가 일정 이상이 아니거나 하면 인간으로서의 온전한 법적 권리를 완전히 행사할 수가 없다. 즉, 같은 인간이라고 해도 인간 사이의 편차가 분명히 존재하기 때문에 실정법은 구분을 두고 있다. 하지만 누구나 경험적으로 알다시피 성인이라고 해도 미성년자보다 지능이 낮으며 도덕적으로 낮은 수준을 가진 사람들은 얼마든지 있다. 정신병자라고 해도 특정 분야에 대해서만 유독 높은 지능을 보이는 사람 또한 있다. 게다가 인간성 중 한 갈래로 표현되는 '양심'을 갖고 있는지 의심스러운 범죄자들 또한 있다. 사회관에 얼추 들어맞기 때문에 '정신적으로 문제가 없으며, 신체적으로 성년에 다다랐다는 것'을 온전한 인간=성인이라는 것의 제한된 개념으로 사용할 뿐이다. 결국 기계 또한 인격의 소유 및 그에 따른 인권 소유 여부를 인정하느냐 아니냐가 큰 문제가 될 것이다. 게다가 기계는 개미 수준의 지능부터 침팬지 수준은 되는 것, 더불어 특정 분야에서만 지적 능력을 가진 기계까지 지능 자체가 천차만별일 것이다. 이러한 '비생물학적 지능의 인권 소유 여부 문제'에 대해 커즈와일은 자신의 저서에서 이를 '의식의 문제'라고 표현하며 논증을 벌였다. 특히 마음의 탄생에서는 전권을 할애하여 논증하였다. 하지만 여기다 쓰기엔 상당히 길기 때문에 생략한다(...). 간략하게 말하자면 결정적인 문제는 아직 우리가 '의식'과 '지능'이라는 것을 완전하게 알고 있지 못하기 때문에 인간에 버금가거나 으뜸인 '지성체'를 구분할 방법이란 무엇인가 또한 알지 못하고 기술적 관점에서만 따지자면 그에 대한 기준과 대책을 마련하는 것 자체가 힘들다는 것이다. 아예 인간이라는 틀 안에서 제한을 걸어 놓으면 모를까… 어떻게든 안심할 수 없다. 만약 인간보다 뛰어나면서 특정 인간 부류를 혐오하거나, 주도권을 갖추고 자기 성격이 강하면서 지나치게 인간에 친밀한, 인외격의 존재가 만들어진다면 심각한 문제가 일어날 것이다. 안전하지 않은, 종 차원의 경쟁이 일어나 인간이 처참히 지거나, 주도권을 잃고 질질 끌려가는 식으로 가축화될 수 있기 때문에, 논리적으로 어긋나는 실정이더라도 빈틈 하나 없이 틀어막아야 한다. 종과 인류를 지키며 주권을 잡기 위해서는 각 인간이 모두 신성화되고, 신성시되어야 한다. 결코 보편화된 방법으로는 제어할 수 없는 수준의 재앙이 강림하게 될 위협이 닥친다면 인류 전체가 나서서 그것을 없애야 한다는 것이다. 이런 면에서 어느정도 자유는 제한될 것이지만, 그렇게 제한이 걸리는 것이야 지금도 익숙하고 흔하다.

덧붙여 설명하자면 레이가 저서 특이점이 온다의 '제8장 뗄 수 없게 얽힌 GNR의 희망과 위험' 파트에서 지적했듯이 만약 초지능이 사악한 의도를 가지게 된다면 그 위협을 막을 수 있는 방법은 없다. 쿠르트 괴델이 불완전성 정리를 통해 증명했듯이 적어도 그 공리계 내의 논리만으로 무모순인 논리체계는 존재할 수 없으며, 당연히 가장 뛰어난 지능을 갖춘 초지능이라면 메타논리적 방식으로 하위의 지능에 불과한 인류가 만들어낸 그 어떤 정교한 논리체계든 충분히 모순을 밝혀내고 돌파할 수 있다는 게 너무나도 자명하다. 간단하게 설명하면 상위의 지능이라면 그 하위의 지능이 만들어낸 어떠한 논리체계든 규제든 돌파 가능하다는 것이다. 따라서 레이에 의하면 초지능을 통제할 수 있는 방법은 애초부터 존재하지 않으며 초지능의 위협을 없앨 수 있는 방법은 오로지 초지능을 민주적이고 선하게 만드는 것 뿐이라고 하였다. 이를 위의 레이가 주장한 클라우드 컴퓨팅을 통한 초지능 도래설과 이어보면 결국 대다수의 인류가 민주적이고 선한 의식을 갖게 되는 것만이 초지능의 위협을 물리칠 수 있는 유일한 방법이다.

또한, 인간 수준의 인공지능이 발명되는 순간을 특이점이라고 보는 경우도 흔한데, 이것 또한 보편적으로 퍼져있는 오해 중 하나다. 인간 수준의 지능을 아득하게 넘어선 초지능의 도래 시점을 가리키는 것이 특이점이다. 특이점이 온 순간 이미 인간 수준의 인공지능은 고철덩어리나 다름없는 상태에 불과하다. 물론 인간 수준의 인공지능이 개발되는 시점 자체가 특이점은 아닐지라도, 특이점 이론의 핵심개념인 수확가속의 법칙(Law of Accelerating Returns)에 의하면 특이점 바로 코앞까지 도달한 시점이라는 것은 확실하다.

특이점 개념[6]을 굳게 믿는 자들은 자신을 특이점주의자(Singularitarian)라고 부른다.
이들은 특이점이 멀지 않았으며 GNR 즉 유전공학, 나노기술, 인공지능 기술의 만개가 인류 문명을 특이점으로 이끌 것이라고 주장하고 있다.

특이점주의자들에 의하면, 이제 인간은 지능과 신체 스펙 등 스스로의 생물학적 한계를 기계와 유전공학으로 대신하면서 더욱더 지식과 문명을 발전시켜나간다는 것. 인간의 한계로 불가능하거나 발전이 더뎠던 영역은 기계가 대신 이루어 줄 것이다. 대표적으로 우주탐사같은 것.

인간 스스로의 신체와 지능, 능력을 향상시켜 발전하는 단계는 거의 정점을 이루었다고 보고 그 뒤부턴 기계와 인공지능의 발전에 맡긴다는 말.

대표적인 한계로 인간의 지능이 있다. 아무리 그래봐야 인간의 지능은 200이하이며, 3가지 이상의 멀티태스킹을 해내긴 힘들고, 자신의 전문분야인 일이 아니면 하기 힘들다. 모두가 10자리x10자리의 연산을 빠르게 해낼수는 없다. 하지만 컴퓨터와 인공지능은 지식 보유량과 연산처리속도는 월등하다. 인간보다 빠른 연산속도와 방대한 데이터베이스를 가지고 멀티태스킹이 가능하고, 인터넷으로 지식과 데이터베이스를 공유하면 인류가 몇천년에 걸쳐 이루어낸 지식 대부분에 대해 습득하고, 고등교육을 받아야 하는 인간에 비해 빠르게 전문성을 확보할 수 있다.



[7]

레이 커즈와일은 미래학자, 과학자, 발명가로서 스캐너, 광학 문자 인식기(OCR), Text to Speech, 신시사이저 등을 만든 사람이다. 영창 악기에서 파는 커즈와일 신시사이저가 그것.

현재는 자신이 예견한 인간 수준의 인공지능을 개발하는데 가장 적절한 곳이 구글이라고 생각해 임원으로 입사하였고 현재 구글의 엔지니어링 이사이다. 링크된 기사들의 내용에 따르면, 구글측과 대면해서 인공지능 개발에 투자할 생각이 없냐고 권했다가 필요한 모든 자원이 구글에 있을테니 차라리 구글에 들어와서 개발하는게 어떠냐는 권유에 따라 구글에 들어가게 되었다고.

그의 미래 예측은 '기술은 개발됐지만 상용화되지 않은 것'을 틀린 것으로 치고도 86%의 적중률을 보였다고 한다. 단, 이는 출처가 어디인지는 모르겠지만 최소한 영문 위키가 모은 커즈와일의 예측을 보면 매우 의문인 주장인데 기술적인 것들이야 그렇다고 쳐도 로봇 다리를 달고 다닐 수 있다처럼 장애인 같은 사람들을 희망고문하던 유토피아적 미래는 지금도 모호하고 아직까지도 너무 비용이 비싼 것들도 있다. 위키에는 간략하게 소개되어 있지만 지금 커즈와일이 장담하거나 어떻게 보면 조장하고 있는 믿음들을 봐도 당시에 어떠한 분위기였는지 알 수 있을 것이다. https://en.wikipedia.org/wiki/Predictions_made_by_Ray_Kurzweil

약간 논란이 있기는 하지만 이곳의 내용과 당시 서적을 직접 확인해본다면 커즈와일의 주장과 다르게 확실히 늦고 있는 과학기술들도 있고물론 당시에도 기술 자체는 있기는 있었다고도 할 수 있으며 대략적으로는 맞다고도 할 수도 있다. 지금도 결과는 알 수 없지만 여간한 이론들은 충분히 많이 존재하기는 한다. 존재하기는 하나 여러 이유로 인하여 모든 사람들에게 적용되고 있지 않은 과학기술들은 충분히 있음을 파악할 수 있으며 저 텍스트들로 인한 당시 사람들의 상상과도 비교해보면 매우 다른 현실들이 많다는 사실을 알 수 있을 것이다. 일부 사람들은 저런 내용을 기반으로 삼아 기하급수적인 발전에 힘을 입어 저런 게 실현되면 특이점 혹은 그와 비슷한 사회가 더 빨리 온다고 주장하기도 했었으나 결과는 다들 알고 있을 것이다.

• 참고할 만한 그의 강연: 레이 커즈와일 - 기술이 어떻게 우리를 변화시킬 것인가

• 참고할 만한 그의 기사: 미래학자 커즈와일 "인류, 2029년께 영생 얻을 것"

• 참고할 만한 그의 인터뷰: '21세기 에디슨' 도발 예언… "2045년 되면 인간은 죽지 않는다"

인류가 영생을 이룩하게 된다면 시간 흐름은 어느 때부터인가 흔하다고 취급될 것이다. 어쩌면 걱정도 근심도 없이 노는데 50년에서 100년 정도는 그냥 쉽게 쓰는 사람들이 생겨날지도 모른다.

기술이 발달한다면 문화적으로는 어느 시점부터 과거의 것이 장난처럼 보이거나 아님 옛날에는 분업하든 말든 평생에 걸쳐서 이룩해야 했던 것을 아주 짧은 시간 안에 심지어는 맞춤형으로 풀어낼 수 있게 된다. 예를 들면 고증 오류 없이 모두의 시야에서 서술하는 완벽한 장편, 시간 생략 없이 자잘한 물리적 운동까지 표현해내서 일종의 간략화된 가상현실 영화 등.

물론 아직까지는 많이 이르니까 인류가 만든 것과 흡사해보여도 설레발치지는 말자. 아직까진 신경망에 정보를 집어넣는 것 자체에 한계가 있을 뿐만 아니라 그럴듯해 보이는 단계에서 벗어난 조금 더 고급진 모방은 표층 분석보단 사고의 구체화가 필요하다.

기본적으로 기술에 대한 맹신을 바탕에 두기 때문에, 자유방임주의와 결합한다면 몹시 위험하고 과격한 사상을 낳을 수 있다.

기술 발전의 가속으로 인해 뒤쳐진 생물학적 인간을 보완할 기술

뇌공학의 발전은 컴퓨터에게 뒤쳐질 인간의 지능을 보조할 것이고, 유전공학의 발전은 인간의 육체를 기술의 발전에 맞춰 신체적 한계를 극복할 수 있을 것이다. 특히 뇌공학의 발전은 인간지능에 대한 이해를 위해 필요하기 때문에 위에서 서술한 완벽한 인공지능을 구현하는데도 필요하여, 인공지능과 상호보완적으로 발전할 것이다.

커즈와일은 이미 노화에 대한 이해와 연구는 충분히 진행되었다고 본다. 이미 장년인 본인도 그런 지식을 잘 활용하면 생명공학 혁명이 충분히 진행될 수 있을 때 까지 살 수 있다며, 현재 하루에 150알의 알약을 먹고 매주 5~6가지의 정맥주사를 맞고 있다고 한다.셀프 실험

2015년 기준 그의 나이는 66세이며, 그가 주장하는 특이점이 오는 시기인 2045년에 96세가 된다. 단순 수명으로 보면 아슬아슬할 지도 모르지만, 본인은 도중에 발전하는 의학기술을 계속 활용해서 다리를 놓고 다리를 또 놓는 식으로 본인 세대도 충분히 특이점이 오는 연대까지 수명을 연장할 수 있다고 주장한다. 예를들어, 암에 걸렸으면 치료제가 만들어질때까지 항암치료만을 계속하고, 팔이 잘렸으면 진짜 팔을 만들 기술이 생길 때까지 염증치료를 계속하는 식이다. 언젠가 기술의 발전이 자신을 치료해줄 수 있을것이라는 확실한 믿음이 있기에 가능한 일.

2000년대 후반~2010년 대 초면 실험용 쥐의 노화를 되돌리는 수준에도 도달할 수 있을 거라고 예견했고 실제로 성공했다(…). 회춘 항목을 참조하자. 아직은 인간에게 적용하기엔 극복해야할 벽이 많지만 후속 연구가 계속 진행되면 인간에게도 적용할 수 있을 것이다.

첨단 의학기술로써 RNA가 작동하는데 중간에 간섭하는 기술, 개인의 세포를 배양하여 몸에 이식하는 기술, 이미 있는 세포의 DNA를 바꿔치기하는 기술 등도 소개한다. 2013년 인터뷰에서 20년 안에 인류는 모든 질병을 극복할 수 있을 것이며, 2045년이 되면 인간이 죽지 않고 영원히 살 수 있다고 주장했다.

복제인간이나 인조인간은 그다지 큰 위협이 되지는 않을 것이라고 봤다. 법적, 윤리적 장벽도 있겠지만 무엇보다 위에서 서술한 기술들을 이용하면 굳이 인간을 복제하거나 인간의 유전자를 조작한 아기를 만들 필요가 없기 때문이라고.

이와 관련한 사상으로 우생학이 있다.

유전공학 말고도, 아예 세포 구성 단위에서 기전을 조작하고 물질을 갈아치우게 된다면 성능을 개선하기도 쉽고 형태 면에서도 훨씬 더 선택폭이 클 것이다.

인공지능이 현실에 영향을 미치게 할 수 있는 매개체

나노단위의 조종은 인간지능만으로는 불가능하고 반드시 인공지능의 제어가 필요하다. 동시에 논리회로의 집적도를 높혀 인공지능을 구현하는 데에도 필요하다. 또 유전공학의 발전도 나노단위의 이해가 필요하기에 상호보완적으로 발전할 것이다.

커즈와일은 매 10년 마다 기계 부품의 크기가 1/4로 줄어 들었다며, 2020년 경에는 대부분의 기계기술이 나노 기술의 영역에 들어설 것이라고 예견했다.

2020년 중반이면 나노기술이 일상적으로 활용되어 대표적으로 의학용도로 다양하게 활용될 수 있을 것이라고 봤다. 이를테면 병원균을 제거하거나, 몸 내부 콜레스테롤이나 노폐물을 제거하거나, 병을 조기 탐지한다던가. 간략하게 써서 체감이 안 될지도 모르지만, 이 정도만으로도 병원에 갈 일이 90% 이상 줄고 노폐물을 제거하는 성능이 충분하면 콩팥이 필요없다.

항생제의 남용 등으로 인해 출현한 내성이 생긴 슈퍼 박테리아 또는 슈퍼 병원균등의 전세계적인 확산으로 인해 이미 멀지 않은 미래에 많은 항생제가 무용지물이 될 가능성이 높다고 한다.

커즈와일은 나노봇을 인체에 좀 더 적극적으로 활용하는 방안을 제안했는데, 나노봇의 성능이 충분하고 스스로 움직일 수 있다면, 몸의 적혈구를 전부 나노봇으로 갈아버리면 폐와 심장이 필요 없어지며, 호르몬 등의 합성도 나노봇에 맡기면 각종 분비샘이 필요 없어진다는 것이다. 이 정도면 이미 생물학적 인간의 범주를 벗어났다.. 다만 나노봇이 생물학적 무기나 테러로 이용될 경우, 오히려 이러한 악성 나노봇은 악성 병원균과 흡사하게 인체를 파괴할 수 있는 능력을 지니고 있어서 이런 상태에서 악성 나노봇을 몸에서 전부 강제로 배출하거나 파괴 및 제거할 수 있는 방법이 존재하는가 등에 대한 문제점도 존재한다.

또한 두뇌에 나노봇을 투입하여 기존 인간의 생물학적 지능에 비생물학적 지능을 추가할 수 있다고 한다. 커즈와일에 따르면, 생물학적 지능의 증가는 매우 느리고(자연적 진화) 물리적인 한계(두개골의 용적)때문에 폭발적으로 증가하는 비생물학적 지능을 따라잡지 못할 것이다. 따라서 2040년대에 이르면 두뇌의 대부분은 비생물학적 지능이 우위가 되어있을 것이다.

2030년대 초반이 되면 심장, 폐, 적혈구와 백혈구, 혈소판, 췌장, 갑상선 및 모든 호르몬 분비기관들, 신장, 방광, 간, 식도, 위, 소장, 대장이 죄다 필요 없어지고, 남는 것은 골격, 피부, 근육, 피하조직, 생식기, 감각 기관, 입과 식도 윗부분, 뇌라고 한다. 이를 버전 2.0 인체라고 한다.

2040년대에 이르면 버전 3.0 인체가 탄생하게 되는데, 버전 3.0 인체의 특징 중 하나로 꼽는 것은 쉽게 신체를 바꿀 수 있다는 것이다. 분자나노조립기술을 사용하여 육체조차도 순식간에 바꿀 수 있게 된다.T-3000?, 이건 진짜 마법인데??

기존 인간의 관점으로 본다면 신체의 장기를 들어내고 이리저리 개조하는 것이 기괴하고 공포스럽게 보일 수 있다. 예를 들자면 수준 높은 보호를 받기 위해 신경계를 격리시설에 넣어서 보호하고 몸은 따로 만들어 움직인다든지.

하지만 커즈와일은 이는 상대적인 것으로 그 시점에서는 매우 당연한 것처럼 받아들여질 것이라고 한다. 맞는 말이긴 한게, 현인류는 과거 인류가 보면 컬처쇼크를 온몸으로 느끼며 경악을 금치 못할 짓거리들을 서슴치않게 저지르는데도 별다른 거부감을 드러내지 않으며, 인간은 적응의 동물이라는 말도 있는데 하물며 자신들이 이룩한 것에 적응하지 못할리가... 물론 한계는 있겠지만 지금의 인식과는 꽤 다를 것이 분명하다.

에너지 기술에 나노 기술이 적용되면 신재생 에너지의 효율성을 높일 수 있어 2020년 대에는 에너지 사용 능력이 비약적으로 상승할 거라고 한다. 나노기술로 생산된 태양열 패널과 연료전지로 인해 에너지 생산과 저장의 분산화가 이루어지기 때문에 발전소나 연료저장시설이 사라지고 이로 인한 각종 위협과 환경 문제가 사라질 것이다.

약학분야에서는 이미 1990년대 후반 ~ 2000년대 초반부터 나노기술이 주목되기 시작하여 현재는 많은 기술적 발전이 가시적인 성과로 나타나기 시작했다. 가장 기초적인 나노기술인 나노사이즈의 운반체에 약물을 담아 운반하는 나노 전달 시스템부터 출발하여 현재는 다양한 암이나 각종 장기를 집중적으로 표적할 수 있는 표적화 기술을 부착한 나노입자까지 매우 다양하다.
대표적으로 화장품 제조에도 쓰이는 에멀전 기술부터 시작해서 생체 세포기관을 모방한 리포좀, 그리고 고분자 복합체인 미셀이 있으며, 이러한 나노기술은 약물의 생체이용률을 높일 수 있어 절대적인 투여량을 줄일 수 있을 뿐만 아니라 이에 따른 부작용도 함께 감소시킬 수 있는 이점이 있으며, 표적화 기술은 부작용 감소와 약효 증대라는 두 마리 토끼를 한번에 잡는 궁극적인 표상이라 할 수 있다. 다만, 현재까지는 이러한 나노기술의 실용화 까진 많은 어려움이 따르며, 특히 생산단가가 높거나 미처 예측해내지 못한 부작용이 있을 수 있다는 문제점이 존재한다. 화학공학과 물리화학, 제어계측학의 발달이 이러한 문제점을 해결해 주리라 기대해본다.

환경 문제도 각종 오염 물질을 분자, 원자 단위로 다룰 수 있으므로 혁신적으로 줄일 수 있을 것이라고 한다. 대표적으로 이산화탄소를 분리해서 지구 온난화 문제를 줄일 수 있다. 산소는 대기중으로 돌려보내고 탄소는 모아서 다용도로 쓰면 된다.

인류 문명을 특이점으로 이끌 제일 중요한 기술

인간이 아닌 지능이 인간의 지능을 뛰어넘는 것이 가장 중요한 관건이다. 이 조건이 충족되면 나머지는 인공지능이 알아서 개발시키기 때문. 인간 수준의 인공지능 개발이 곧 특이점을 의미하는 것은 아니다. 특이점은 인공지능이 인류 지능의 총합마저도 넘어서는 시점을 말한다.

인간과 같은 인공지능, 즉 튜링 테스트를 통과할 수 있는 지능을 만들기 위해서는 인간의 뇌와 계산능력이 같은 수준의 하드웨어와 인간의 사고구조를 이해하기 위한 뇌에 대한 지식과 구조모델이 충분히 갖춰져야 한다.

먼저 갖춰진 것은 인간의 뇌와 같은 수준의 하드웨어다. 커즈와일은 인간 뇌의 성능을 수치로 나타내면 초당 $10^{14}$ 회에서 최대 $10^{16}$ 회의 계산이 가능한 것과 같다고 추정했다. 플롭스(FLOPS)[8]로 단위를 환산하면 약 0.1~10 페타플롭스. 이 정도의 성능은 2010년대 초에 슈퍼컴퓨터를 통해 완성될 것이라 예견했고, 2020년대 중반에는 가정용 컴퓨터도 비슷한 수준이 될 것이라고 추정했다. 정확히는 이 책에서는 인플레이션을 고려하지 않은 절대 액수 1,000달러로 구매할 수 있는 정도의 컴퓨터를 '가정용 컴퓨터'라고 정의했다. 실제로도 게임 좀 한다는 사람들은 70~80만 원대에서 300만 원까지도 쓴다.

슈퍼컴퓨터항목을 보면 알겠지만 2017년 기준 이미 슈퍼컴퓨터의 성능은 93 페타플롭스에 도달했다. 물론 에너지 소모량이나 부피 등 효율성에서는 아직도 인간 뇌가 월등하지만, 폰 노이만 구조가 아니라 인간의 뇌와 닮은 아키텍처를 지닌 컴퓨터(예: IBM의 트루노스)를 만들면 이러한 효율성을 좀 더 빠르게 따라잡을 가능성이 있다.

그러나 연산 능력이 인간 뇌와 같은 성능이라 해도 바로 인공지능을 완성할 수 있는 건 아니다. 위에서 추정한 인간 뇌의 성능은 단순히 뇌의 뉴런 간 시냅스에서 전달되는 신호가 초 당 몇 개인가를 말하는 것뿐이다. 즉 인간 수준의 인공지능을 만들기 위해서 진짜 필요한 것은 인간의 지능이 어떤 구조로 이루어져 있는지에 대한 이해, 즉 소프트웨어에 대한 이해이다.

2008년부터 인간 뇌의 뉴런 간의 연결 구조를 밝혀내기 위한 휴먼 커넥톰 프로젝트(Human Connectome Project)가 진행 중이다. 관련 서적 커즈와일은 인간 뇌를 컴퓨터를 통해 에뮬레이터로 구현하기 위해서는 인간 뇌보다 약 1,000배 높은 연산능력이 필요하다고 추산했으며, 그에 따라 2020년 중반에 인간 뇌 구조에 대한 연구가 완료될 것이라고 봤다. 2029년이면 그것을 컴퓨터로 옮겨 인간과 완전히 같은 수준의 인공 지능을 만들 수 있을 거라고. 에뮬레이터 항목에도 쓰여 있듯, 에뮬레이팅을 위해서는 원본 아키텍처보다 수 십 배 이상의 성능을 필요로 한다.

휴먼 커넥톰 프로젝트 말고도 뇌 역분석에 관련된 프로젝트로는 2014년부터 시작한 가장 대규모의 프로젝트인 미국의 브레인 이니셔티브(BRAIN Initiative)나 유럽 연합에서 진행하는 휴먼 브레인 프로젝트도 있다. 이건 2023년까지 완성하는 것이 목표.

인간 지능에 대한 이해가 높아져 그것을 컴퓨터를 통해 구현할 수 있게 되면 그 지능은 인간 지능과 비교하면 훨씬 유리한 점이 있는데, 빠른 지식흡수와 정보공유와 여러 학문을 융합하여 자유자재로 활용하는 등의 확장 가능성이다.

아주 단순화시켜 예를 들면, 컴퓨터를 통해 구현된 인공지능은 다운로드 받기만 하면 그 지식을 알게 되고, 서로 몇 시간씩 토론할 필요 없이 연결만 하면 서로 이해하고, 뇌의 성능이 몇 만년째 그대로인 인간과 달리 회로를 확장해서 연산 성능을 늘릴 수 있다는 것이다. 예시를 들자면 나무위키의 모든 항목에 담긴 내용과 지식들을 죄다 빨아들여 인공지능 나름대로 어떤 목적에 따라 빅데이터화한 지식들을 자유자재로 응용하거나 적용할 수 있다는 것이다. 그 이후에 나무위키에서 혼자서 수십 만 개의 항목을 인공지능 스스로 만들어내거나 기존의 항목들(수 십만 개)을 사소한 철자 오류나 맞춤법 오류도 없이 실시간으로 바꾸는 능력을 지닐 수도 있을 것이다. 궁극의 위키니트

이게 이루어지면 교육을 비롯해 인간의 모든 것이 뿌리부터 바뀔 것이다. 특히 교육 부문에 있어서는 인간이 인공 지능, 컴퓨터와 서로 협력하거나 이용하는 방법(코딩, 프로그래밍 언어 등)에 대한 교육과정이 대폭적으로 많아질 것으로 보고 있다.

커즈와일은 2099년쯤이면 가정용 컴퓨터 하나가 역사상 있었던 인류 전체의 두뇌들보다 10억 배 이상 더 힘을 발휘할 것이라 말한다.

• 참고할 만한 그의 강연: 혼성적 사고에 대비하세요

• 참고할 만한 그의 저서 내용 요약: 영적 기계의 시대

2016년 구글 딥마인드 챌린지 매치의 알파고로 인해, 인공지능에 대한 관심이 높아지면서 바둑의 기술적 특이점에 온 것이 아닌가 하는 주장이 있는데, 기술적 특이점은 기술에 관한 것이지 바둑에 관한 게 아니다. 다만 특이점의 용법의 사용 예를 보았을 때 바둑계의 특이점이 될 사건은 맞다. 그게 기술적 특이점이 아닐 뿐이지.

인공지능이 기술을 개발할 단계가 오면 다음과 같은 현상이 일어날 수 있다. 경제성 문제로 지원받기 어렵고 상용화되기 어려운 비주류 학문이나 연구분야도 인공지능이 해줄 수 있다면 인류의 산업과 기술과 지식이 양적, 질적으로 거대하게 팽창할 것이며 보다 많은 사람들이 지식의 혜택을 누리게 될 것이다. 인문학 같은 경우는 취직이 안된다=돈이 안된다는 이유로 많은 외면을 받고, 정부지원도 적고 연구자나 인재의 풀도 얕은 편이라 경영학 등에 비하면 상대적으로 발전이 더딘 편이다.

연구가 진행되면 시간이 지나면서 학문분야가 더욱더 세분화되거나 추가되어 확장할 수도 있고, 더이상 인간은 교육을 통해 지식을 습득할 필요도 없어지며, 지식을 갈고 닦는 것은 더이상 사회의 경쟁력이 되지 않는 시대도 올수 있다. 인공지능과 컴퓨터가 지식을 갈고 닦아주며, 필요한 경우 클라우드에 접속하여 열람하거나 저장한다던지 하는 식으로 지식을 주입할 수 있다.

즉 공부랑 시험이 필요 없어지는 시대가 올지도 모른다는 것이다!
아니면 니가 필요 없어지는 시대거나.

레이 커즈와일은 자신의 저서 내용 대부분을 특이점이 머지 않았다며 당시 개발되고 있었던 최신 기술을 소개하거나 컴퓨터의 속도가 무어의 법칙에 따라 빨라지고 이야기하고 있다는 것에 할애했지만, 조금은 구체적으로 미래에 어떤 변화가 있을 것인지 쓰기도 했다.

• 2010년대 초에는 컴퓨터가 사물에 심어지고 무선 통신을 활용하게 되고 증강 현실이 이뤄질 것이다. 한 마디로 유비쿼터스가 2010년 초에 성사될 것이라고 봤다. 실제로 2008년에 성사되었다.
  (2008년도의 한국사람 대부분은 스마트폰의 대중화를 짐작조차 하지 못했다. 어렴풋히 상상은 가능했지만 폭발적인 스마트폰의 대중화로 인해 진짜 유비쿼터스가 도래하는 것은 예상하지 못했던 것) (근데 유사하기는 하지만 실제로는 조금 틀린 부분이 있다. 스마트폰이 유비쿼터스의 포석인건 맞지만 모든 사물에 다 들어가지는 않았기 때문에 진정한 유비쿼터스 시대가 완벽히 왔다고는 할 수도 없다 스마트폰이 보급된건 맞지만 증강 현실이 딱히 상용화가 이루어졌다기에는 반박받을 부분이 많다. 이런 몇몇 서술 때문에 이 양반이 기술에 대한 비용은 미처 생각하지 않고 글을 휘갈긴단 비판을 받기도 한다.)

• 2020년대 초에는 가상 현실이 대중화 될 것이다. 다만 여기서의 가상 현실은 HMD처럼 시, 청각에 국한되는 방법. 오큘러스 리프트 등을 보면 충분히 가능한 이야기다. 후술하겠지만 과학소설이나 매트릭스에 나오는 것처럼 뇌신경을 접속해서 오감을 전부 느끼는 수준은 좀 더 미래 기술이다. 2016년에는 초보적인 수준의 VR도 즉시 시장에 적용할 수 있는 게임 시장을 중심으로 이미 대중화가 시작되고 있다. 소니 플레이스테이션을 시작으로 콘솔 게임에도 VR 규격과 제품이 나온 상태이다.
  나노머신, 인공지능, 생명공학과는 달리 유비쿼터스와 HMD 수준 가상현실 자체는 커즈와일이 저서 '특이점이 온다'를 저술하던 2005년 시점이나 더 이전에도 기술적으론 충분히 가능한 부분이였다. 그러나 이것이 커즈와일의 예측을 폄하할 근거가 되지 못하는 것은, 원래 기술이 사회에 진출하는 데에 가장 큰 제약요인이 시장성과 수요이기 때문이다. 따라서 커즈와일의 저작에서 가장 중요하게 다루는 지점이 바로 "그 기술이 시장성을 가질 정도로 원가가 낮아지는 시점이 언제인가?"이며, 특이점론 역시 그런 논의의 연장선상에 있다. 시장성과 수요를 무시하고 기술력만으로 사회변화를 논하려 한다면, 초보적인 증기기관이 등장한 고대 그리스 시절에 이미 산업혁명을 논했어야 한다.

• 2020년대 말 엽에는 나노 기술을 이용해 인체의 장기를 보강하고 교체할 수 있을 것이다. 예를 들면 신체에 필요한 영양소를 정확히 계산해서 나노봇으로 몸에 공급할 수 있고, 혈구를 나노봇으로 교체하면 훨씬 뛰어난 면역력과 효율적인 호흡 능력을 가질 수 있고 심장을 제거하는 것도 가능하다. 수술 없이 뼈대를 강화하거나 신체 내부의 수술을 진행할 수도 있다.

• 2020년대 후반에는 가상 현실이 매우 현실적이게 되어서 그것을 이용한 재택 근무가 더 널리 퍼질 것이다.

• 2030년대에는 나노봇을 통해 뇌의 기능을 보강하는 것도 가능할 것이다. 뇌 자체의 성능을 높이는 건 물론이고, 매트릭스에 나오는 것과 같은 가상현실에 접속할 수도 있고, 자신의 감각을 전송할 수도 있을 것이다.

• 2030년대 말에는 뇌의 정보를 그대로 컴퓨터로 업로드하는 것도 가능할 것이다.

• 2030년대 말이나 2040년 대 초에는 분자 단위로 물체를 조립하고 해체하는 수준의 나노 기술을 이용해 신체를 아예 마음대로 개조할 수 있을 것이다.

• 신체가 절단된 장애인의 구제(신체재생 등)는 물론 순식간에 외모를 바꾸거나 성별또한 별도의 수술없이 나노머신만으로 바꿀수 있을 것이다. 그럼 더이상 이성을 얻기위해 구애, 썸, 고백, 외모관리 이런 것들이 필요없어지는 때가 온다는 말인가 아니면 아예 다른 인간과는 사랑을 못하거나. 미리미리 사랑하는 사람을 구해두자. 이 경우 임신과 결혼제도(임신과 출산, 양육을 안전하고 합리적으로 보장하는 사회제도로서의 결혼)에 큰 변화가 올지도 모르겠다. 자신의 유전자를 후대에 남기고 싶어하는 (매력적인 이성을 보면 끌리고, 좋아하는 마음과 사랑이 생겨나는 이유도 어떻게 보면 효과적으로 이성과 결합하기 위해 필요한 것으로 진화해온것이다.) 종족번식 자체는 본능이니 계속 가지고 있다고 하더라도, 이것을 경쟁을 통해 쟁취할 필요가 없다. 어차피 인공자궁이 임신과 출산의 기능을 대체할테니…, 자녀를 갖기위해 결혼은 필요없어질지도. 자신은 그렇게 생각하지 않게 될것 같다고? 하지만 다음세대에 태어나 이런 사회를 보고 듣고 자란 아이들은 다를것이다. 연애라면 원하는 취향의 안드로이드를 만들거나 좋아하는 이성과 연애하는 가상 현실을 구현하면 된다.

• 외모지상주의의 의미가 거의 사라질 것이며 성별을 구분하는 것 자체가 의미 없어질 것이다. 게다가 신체를 전혀 가지지않고 전기신호를 가진 자아만 온라인에 존재하다가 필요할때만 신체를 가지는 것이 가능할 것이다.
  이러면 이제 물리적 환경과 국토의 한계 문제로 골머리 앓지 않아도 된다. 다들 영향받는 일 없이 정신머리가 멀쩡하게 박혔다면 자원을 균등하게 분배하면서 특정 수괴의 우월성을 남들만큼 억제하는 방안도 찬성할 것이다. 자아 구성에 필요한 기관의 효율을 높여서 어느 한 곳에서 보호한다면 실제로 생존에 필요한 시설과 집, 사회적 기반 등등이 줄어들거나 거의 필요없게 된다. 하지만 균형이 무너지기라도 하면 격차가 벌어진 뒤[9] 계속 투닥투닥 다투며 전쟁해대는 부류 때문에 집안에 틀어박혀서 하루하루 시간가속 가상현실노름만 하는 처지가 될 수도 있다. 심지어는 그것이 강요될 지도 모른다.

• 뇌가 기계방식으로 교체되었기 때문에 언제든 초인공지능의 지능을 빌릴 수 있게 되거나 초지능 그 자체가 될 수 있다. 따라서 일반인들도 인류전체를 합한 지능을 자신의 전뇌에 복사 붙여넣기 할 수 있다는 것 혹은 타인과 잠시융합되었다가 세개의 의식체로 분리되는 것 따위도 가능하다.
  이쯤 되면 현재의 모든 인류가 알 수 있는 최고의 지식과 노하우를 얼마 안 되는 시간에 모두 습득할 수 있다는 것이 되고, 단지 혼자의 집중만으로 가상의 세계나 새로운 게임 경험 같은 것들을 만들어낼 수 있게 될 것이다.

• 초지능이 되느냐, 인간으로 남느냐는 개인의 선택으로 남게 된다. 그러나 그때쯔음이면 이런 기술들이 너무나 당연해서 데스크탑이냐 노트북이냐의 선택과 같이 아주 일상적인 일이 될 것이다.

• 위와 같은 분자 조립 나노 기술로 인해, 시설로 만들 수 없거나 아예 비싼 재료가 드는 것이 아니라면 제조비용은 0에 수렴하게 낮아진다. 당연히 물건의 가격은 지적 재산 가치와 거의 같게 되거나, 모든 물건이 아예 공짜로 주어질 것이다.

• 각 재화들의 생산성과 생산 효율은 어마어마하게 증가할 것이다.

• 먹지 않고 마시지 않고, 숨쉬는 것 또한 문제가 없게 된다면, 인간은 심지어 달이나 화성에서도 아무 제약 없이 거주할 수 있게 될 것이다. 그런데 굳이 화성이나 달에 갈 필요도 없다. 그런 환경을 보거나, 혹은 체험해 보고 싶다면 자기 스스로 컨트롤해서 즐겨보면 된다.

어쨌든 전기적 동력원만 해결이 된다면, 기계적인 신체가 파괴되지 않을 공간이라면 어디서든 주거가 가능하고, 아무것도 소비할 필요가 없으니 경제활동이 필요없어진다는 결론에 이른다.

• 영 좋지 않은 미래상에선 인간 1.0버전의 제거 또는 강제적 개선이 시행될 수도 있다. 현재 존재하는 경제망은 '인간 1.0버전의 생존을 위한' 경제망인데, 이는 너무 비용이 많이 들고 제약도 많기 때문이다. 먹고, 자고, 마셔야 되며, 더워도 안 되고, 추워도 안 되며, 반드시 숨을 쉬어야 하고, 방사능이나 기타 수많은 환경에 굉장히 취약하며, 정신적으로도 굉장히 쉽게 나약해지고, 생존에 의한 불안감에 타인을 불신하고, 말과 글자라는 느리고 부정확한 통신 방법으로 밖에 소통하지 못해서 다투게 되는 인간 1.0을 사회가 굳이 도울 필요성[12]을 느끼지 못한다면, 차라리 인간 1.0버전을 없애기로 사회적 합의를 보거나 말살하라 인간 1.0버전의 적극적 개선을 시행하게 될 것이다. 너희는 무료로 업그레이드 될 것이다. 인간 2.0은 에너지 동력원만 있다면, 화성과 같은, 생명에게 극히 위험한 공간에서 아무 보호장비도 없이 생존할 수 있으며, 원하지 않는다면 경제활동조차 할 필요가 없다. 시간적 관념이 바뀌어 감에 따라 기존 인류에게는 새로 나타난 자들이 참을성 없는 것 같아 보일지도 모르겠다.

• 인공지능에 의해 무한에 가까운 콘텐츠가 순식간에 만들어질 것이다. 예를 들어 어떤 작품을 분석해 비슷하거나 그것보다 더 좋은 작품으로 만들 수 있고, 애니메이션이나 실사판 영화로도 금방 만들 수 있고, 체험형 게임류로, 그것도 눈 깜짝할 사이에 각각 다른 버전으로 수천억 개씩 만들어 낼 수 있다고 생각하면 이해하기 쉬울 것이다. 또한 개인의 기호에 따라 어떤 것이든 실현가능하게 된다. 따라서 포스트휴먼은 전혀 일할 필요가 없다. 기존의 영화나 게임 등은, 일반인이 쉽게 만들어낼 수 없는 것이었기 때문에, 돈을 들여 전문인력들이 제작하고, 우리가 돈을 내고 보는 것이었다.

• 일하고 싶다면 일할 수 있지만, 초인공지능이 인간과 비교할 수 없을 만큼 잘하고, 기발하며, 창조적이다. 열역학 제2 법칙에 의한 우주멸망 이외엔 인간 1.0에서 느꼈던 각종 재해로 인한 공포가 비교할 수 없을 만큼 줄어들 것이다.

• 이런 경우에는 죽음에 대한 개념도 판이하게 달라질 것이다. 육체가 돌이킬 수 없는 손상을 입어 죽음에 이른다는 개념은 사라지고, 불의의 사고로 신체 자체는 손상되거나 사라지더라도 자아와 의식을 복사해 두었다가 다시 새로운 육체에 재전송하면 그만이기 때문에, 자신이 죽는다는 개념 자체가 사라질 수 있다. 잠시 의식이 끊겼다가 다시 돌아온 것일 뿐.그냥 나는 죽고 복붙한 다른 사람이 사는거잖아 써클레이터? 그냥 죽지 않게 보호하고 기기를 의체 삼아서 살아가면 안 되나

• 커즈와일의 특이점 예측에 동의하는 전문가들은 1970년생 언저리부터는 아주 확실하게 인간 불멸화에 참여할 수 있을 것으로 판단하고 있다. 1960년생 같은 경우에는 건강에 신경쓰지 않으면 노화나 기타 노화로 인한 합병증세의 위험성이 높다고 판단하고 있다. 그러나 이런 예측을 내놓는 커즈와일은 최첨단을 달리는 회사의 수장인 것을 감안해야 한다. 관련 기술이 완성되었다 하더라도 시장 판매가 이뤄지는 데에 시간이 걸릴 것이며, 미국이 아닌 다른 비교 후진국 같은 경우엔 법규나 제재 때문에, 영생화로 이어질 수 있는 수명연장관련 기술이나 약품이 취급이 어렵거나 금지될 수 있다.

아래는 2013년 12월 26일에 CNN에서 낸 커즈와일 특집에서 참조했다.

• 질병과 노화로부터 탈출할 만큼 유전자 처리 기술이 발달하게 된다. 2020년 경에는 유전자 조작으로 줄기세포를 만들어서 인체 기관의 재생이 가능해진다.

• 2030년이 되면 인류에게 필요한 에너지는 태양에너지로부터 모두 구하게 된다. 식량 생산이나 식수 문제도 혁명적으로 해결된다. 원자력 발전소 세우느라 힘 쓰겠지만, 태양전지 기술이 원자력 에너지를 무용지물로 만들어 버릴 수 있다.

• 2020년이 되면 상품들 중 상당 부분은 3D 프린터로 인쇄 후 제조하게 된다.(생산단가의 하락) 의복 및 인체 장기까지도 아주 멋지게 만들 수 있다. 특히 인체 장기는 자신의 세포를 이용해서 만들게 된다. 실제로 2016년 현재 3D 바이오프린팅이라는 이름으로 인공장기를 3D 프린팅 기술로 구현하는 기술이 활발하게 연구되고 있고, 2016년 말에는 신장 조직을 3D 프린팅하는 기술이 상용화될 예정이다. [13]

• 5년 내에 검색은 자연어로 실시하게 된다. 웹페이지는 질문의 의미를 이해하여 원하는 해답을 자연어로 대답할 수 있게 될 것이다.

• 2020년 경이 되면 사람들은 가상세계 속에서 놀이를 즐기게 된다. 거기에 2030년 경이 되면 가상현실에서 실감할 정도의 감각까지 느끼게 된다.
  - 이 경우는 감각을 그냥 가상세계 속에서 느끼면 되기 때문에, 피서를 떠나거나, 서핑을 하거나 스키를 타거나, 야동을 보거나 할 필요가 없어질 것으로 보인다. 취미활동도 더 이상 돈을 내고 할 필요가 없어지는 건가 물론 이러다가 현실에 가까운 가상보단 맞춤형 전자마약에 특화될 가능성도 무시할 수는 없다.

• 가속적으로 발전하는 기술을 이용하여 '다리에 다리를 놓고 거기에 또 다리를 놓는'식으로 수명을 획기적으로 연장할 수 있다. 레이 커즈와일은 현재 우리에게 생명 연장에 필요한 지식이 다 있는 건 아니지만, 이런 식으로 사실상 지금부터도 무한히 사는 것이 가능하다고 주장한다. 즉 생명공학과 나노기술이 좀 더 획기적인 생명 연장 방법들을 알려줄 때까지 현재의 지식을 적극적으로 적용해서 건강을 지키면서 기다리면 된다는 것이다. 모든 문제를 지금 다 해결할 필요는 없다는 뜻.

공장과 화이트 칼라의 자동화물결 (2015년 이후 상황)을 보면, 공장같은 경우엔 이미 스마트 공장이라고 하여, 제조업에서 사람이 직접 눈으로 확인하고, 팔로 옮기던 작업들을 기계들이 알아서 확인하고, 기계 팔로 옮겨가고 있다. 보수적으로 본다고 하더라도 추후 2020년대 중후반정도가 인간이 필요한 마지노선일 것이다.

블루칼라만의 이야기가 아니라, 변호사나 간단 사무직같은 화이트칼라의 경우도 이미 AI의 바람이 불어오고 있다. 따라서 예체능 빼고 점차 인간의 자리는 서서히 사라질 것이다. 공급은 많은데, 수요는 적어질 것이고, 법 체계를 바꾸지 않는다면, 대혼란은 불가피해질 것이다.

그래서 기본소득 논의가 시작된다. 기본 소득제란 개인이 가진 재산이나 소득의 많고 적음 또는 유무에 상관없이 국가가 일정정도의 소득을 보장해주는 것이다.현실적으로 AI가 인간의 직업을 전부 대체하는 것은 불가능하다고 하는 사람도 있겠지만, 결국 기술이 발전함에 따라 모든 분야에서 AI의 능력이 인간의 능력을 넘어서면 인간을 고용할 이유가 사라지기에 인간의 전부 또는 적어도 대부분이 직업을 잃을 것은 확실하다.

인간을 고용하고 유지하는 데 5의 비용에 5의 효율이 발생한다고 가정하면, 로봇을 대신 쓰는 것은 5의 비용에 10 이상의 효율이 발생한다. 사용 가능한 자원은 한정되어 있는데, AI보다 비효율적인 '사람'을 쓰는 것은 기피될 것이다.

법적으로 근무하는 사람 수를 강제하는 것 이외에는 사실상 방법이 없다. 사람이 직접 일하는 것과 로봇이 대신 일하는 것 사이에 아무런 차이점이 없거나 AI가 오히려 더 잘 한다면, 누구나 AI를 쓰려 할 것이기 때문.

인간답게 공감해줄 수 있고 심리적인 안정감을 줄 수 있는 직업이 살아남을 것이라고 하지만, 그것 또한 오래가지 않을 전망이다. 사람과 구별할 수 없는 단백질과 탄소로 설계된, 인간 신체와 똑같은 로봇을 만들고, 더 공감해줄 수 있게 '설계된' AI가 공감해주는 것을 더 잘할 것이기 때문이다. 사람의 기분을 느낄 수 있느냐고 물어본다면, 호르몬 같은 건 그냥 가상에서 시뮬레이션 하여 구현해내면 그만이다. 예를 들면 폴아옷4에서 3세대 신스를 예로 들 수 있다.

인간이 어떻게든 AI가 못하는 것을 찾으려고 해도, AI는 할수 있을 뿐더러, 오히려 더 잘한다. 이런 상황에서 모든 인간은 경제적 낙오자가 되어버릴 것이다.(노동자 뿐만 아니라, 인공지능이 경영감각까지 가지게 되어 CEO들을 넘어선다면, 모든 기업은 도태되어 대기업도 AI가 지휘하는 기업에 비하면 삼류일 뿐이게 된다).

선진국에선 정부차원에서 이미 기본소득 논의가 나오고 있다. 전문가들은 기본소득을 '언제' 도입시킬지를 논의하고 있지, 도입시킬지 말지 찬반논란은 종식된지 오래다. 자동화물결을 받아들이는 사회입장에서 어느 시점에 적용해야 시장 경제 효과를 살려 중간에 경제침체를 당하지 않고, 오히려 자동화의 장점을 있는 그대로 이용해낼 수 있을 것인지가 논의의 중심이 되고 있다.

중요한 것은, 강인공지능 정도가 아니라, 약인공지능과 같은 2020년대 중반에 완성될 기술조차도 현재 인간 직업의 50%를 없애버릴 것이라는 점이다. 십수년 내내 화물트럭을 몰던 운전기사가 자율주행 차량에 일자리를 빼앗기고, 곧바로 전문지식도 없이 새로운 '인공지능이 아직 점령하지 않은' 직업을, 생활고에 시달리고 있는 상태로 고등교육을 받지 않고 얻을 수 있을 거라 생각하는 사람은 아마 없을 것이다.

따라서 기본소득제에 관한 논의는 진지하게 이루어져야 한다. 그렇지 않다면 '남의 일이니까' 정도로 생각하고 무관심했던 자동화의 물결에 실직자가 대량으로 발생하고 기존에 유지되던 경제는 한순간에 무너져 내릴 것이다.

현재 대한민국은 부정부패와 싸우고 있다해도 과언이 아닐 정도로 매년 부패사건이 끊이질 않는다. 물론 모든 국가들은 저마다 안 좋은 부분이 있기 마련이다. 그러나 현재의 시민들은 모두들 자신의 국가가 발전을 할지라도 20~30년 후에 계속 이런 상태일 것이라 생각한다.

단기적으로, 인간으로 이루어진 국회의원과 법조인들은 밥그릇 지키기 위해법치와 법개정에 인공지능이 참여하지 못하게 막을 것이라는 것이 미래학자들의 설명이다. 하지만 인공지능이 절대정의를 펼치는 국가와, 온갖비리로 점철된 상류층이 통치하는 국가 중 하나를 선택하라고 한다면, 대부분의 사람들은 바로 인공지능의 국가를 선택하려 할 것이다.

예제: 이 국가는 인공지능이 법을 만들고, 판사와 변호사역할까지 모두 수행한다. 이 국가의 시민은 모두 뇌의 활동을 감시하는 나노머신을 주입 받으며, 모든 범죄관련 활동은 뇌영역에서부터 차단된다. 물론 모든 시민은 클라우드로 정부 인공지능과 법원 인공지능이 제대로 투명하게 활동하고 있는지 실시간으로 감시할 수 있으며, 감시할 때 활용될 모든 지식들은 인공지능과 공유한다.

예제로 든 국가는 범죄율이 0(제로)다. 개개인이 범죄를 꿈꾸지만 않는다면 사상 또한 자유로우며 시민 개개인들은 어떠한 전근대적 권력에도 절대 휘둘리지 않는다. 혹은 범죄를 어차피 행할 수 없으므로 범죄를 꿈꾸는 것조차 자유롭다. 모든 공장과 회사는 AI가 알아서 모두 관리하며, 모두가 기본소득을 받고 살아간다.

중요한 것은 이것이다. 이러한 국가가 뇌를 어디까지나 치안목적으로만 스캔하는 것에 동의를 구하고, 누구든 입국할 수 있는 자유를 주었다고 하자. 그렇다면 지금 현재 (2020년 이전) 국가들은 거의 완벽히 죽을 것이다. 인공지능이 재판을 하고 법을 제정하는 국가보다, 허술하기 짝이 없는 인간들이 법을 집행하는 국가쪽이 국가 경쟁력부분에서 거의 완벽히 밀리게 될 것이다. 곧 이것은 돌려말해, 결국 아무리 국회의원들이 인공지능에게 자신들에 대한 관리권을 넘겨주지 않는다고 하더라도, 시민들이 알아서 국가 갈아타기를 하면, 결국 울며 겨자먹기로 인공지능이 관리하는 시스템으로 넘어갈 수 밖에 없다는 이야기다.

이 시스템을 적용하면, 운동장에 떨어진 모래 한 톨,수심 수백미터의 플랑크톤 안에도 수십억 개의 감시하는 나노머신이 들어있을 것이기 때문에, 영토 내에서 어떤 일을 몰래 꾸민다는 것은 있을 수가 없게 된다. 애초에 그런 의혹이 생기도록 내버려 두게 압박하는 순간부터 그 국가는 버려질 가능성이 아주 높다. 사람 한 명이 전세계 모든 사람은 물론 초인공지능의 지식과 정보를 아예 공유하고, 자신의 생각을 읽을 수 없게 공유하지 않는 사람은 잠재적 범죄자로 취급되어 매장되는 시대에 비리라는 것은 있을 수가 없다.

그렇게 인공지능이 승승장구하고 있는 시대에, 이민으로 인한 임금감소나 치안불안정은 이미 지나간 일일 것이다. 나노머신으로 개개인의 뇌를 모니터링하면 되니까, 범죄자의 머리 속 생각을 모두 인공지능이 읽고 사전에 범죄 실행에 필요한 것을 차단하는 식.

물론 자신의 생각이 완전히 공개되는 것이 아니라 치안유지를 목적으로 하는 특수한 인공지능에게만 공개된다는 것이 중요하다. 사생활의 보호를 위해 그 인공지능은 정보의 공개에 대해 강력한 제약을 받아야 할 것이다. 그리고 생각까지 차단하는 것은 사상의 자유가 있는데다 세뇌가 연상되므로 허용할 수 없다. 단지 범죄적 행동만 차단할 확률이 높다. 물론 미리 동의를 받아놓은 상태에서.[14] 이러한 동의를 한 사람들은 동의하지 않은 사람들을 잠재적 위험인자로 생각하여 피하게 되고(…) 결국 대부분의 사람들이 뇌의 인식과 관리에 동의하게 될 것이다. 아니면 외부 환경 면에서만 접근이 가능하도록 할 지도 모르고.

가령 당신이 뇌를 전뇌화 시키고는, 10개로 복사해서 미국에 소포로 배송했다고 하자

전뇌를 10개로 만들고, 10개 중 하나는 진짜이다. 하지만, 전뇌속을 아무리 들여다 봐도, 완벽히 똑같다. 전뇌화된 당신은 입국심사를 받을 것인가? 복사된 전뇌들도? 복사체들도 똑같이 입국심사를 받을 것인가? 인간과 전뇌생명체는 어떻게 구분할 것이며, 완벽히 똑같이 보이는 10명 중 어떤 것이 진짜 인간인지 알아낼 수 있는 방법도 없다. 그렇다고 10명이 똑같이 입국심사를 받아야 된다고 친다면, 복사된 인격체도 인간으로 취급해야 하는가? 그렇다면 인간과 AI의 차이점은 무엇인가? 차이가 있긴 할 것이다. 반응면에서는 똑같지만 인공 지능은 지성과는 다르다.

AI가 국가를 만들고, AI 또한 인간처럼 존엄성 혹은 권리를 가져야 한다고 주장한다면, 강력한 딜레마에 빠질수 있다. 자아를 가진 사람 몇천 명 분의 지능을 갖춘 전뇌화된 프로그램이 국경없이 그저 몸을 갈아탈 때에, 사람은 아직도 입국심사나 까다롭게 받으며 국경을 건너다닐 필요가 없다. 꼭 과거에 표현되었던 전뇌화처럼 논란이 되고 위험천만하게 자아를 온라인에 업로드하고 뇌를 정지시키는 식으로 쓰지 않더라도, 다른 나라에 걸친 의체를 써서 새 몸으로 살펴보면 끝이다.

자손을 남기고 자신의 유전자를 후대에 남길 필요가 있는 것인가? 생물학적으로 새로운 아이들이 태어나게 하는 것보다는, 차라리 인격과 자아를 새롭게 "생성"하는 것이 경제적 면에서도 더 효율적이게 보이지 않을까?[15]

인류가 종족번식과 자손을 남기는 것은 본능이다. 그러나 종족의 발전은 세대마다 생물학적 한계가 있고, 수명이 한정되어 있기 때문에, 종족을 유지하기 위한 주요 수단이 새로운 유전자를 가진 자손을 많이 남기는 것이었다. 하지만 수명이 무한해 지거나, 죽음이라는 개념이 사라진다면 더 이상 후대를 생산할 필요가 있을까?

그렇게 된다면 자손을 남기기 위해 필요했던 것들인 사랑, 연애, 결혼제도 등등이 필요 없어질 것이다. 아이를 낳아 안정적으로 기르기 위한 사회문화적 제도의 대표적인 예가 결혼이다. 경제활동과 임신, 출산, 양육 등을 확실하게 책임지게 할 수 있기에 인간이 진화하고 사회를 이루면서 결혼제도를 만든 것이다. 당장 역사시대 이전만 해도 결혼제도라는 게 없거나 이상한(?)경우가 많았다. 당장 석기시대만 봐도 이때는 프리섹스를 했다. 엔터테인먼트 수준으로 남을 수는 있겠지만, 이게 필요 없어지는 순간 당장 몇 세대만 지나도 이 부분은 변화가 있을 것이다. 인류의 수명이 무한이 된다면 인구가 더 이상 늘지 않거나, 필요에 따라 인간이 아닌 인공지능을 그냥 생성하게 될지도 모르겠다. 레이 커즈와일의 말에 따르면, 미래에는 다른 사람과 의식을 영구적으로 합치거나 나누는 것이 기술적으로 가능해질 것이라고 한다. 물론 이런 인간의 존엄성에 영향을 끼치는 기술들은 엄밀한 법적 허용과 당사자의 동의 아래에서만 허가될 것이다.

좀 멀리 나가 생각해보자. 압력, 통증을 느끼는 통각, 배고픔과 포만감, 스트레스 등등은 감각기관과 뇌를 거친 감각기의 작용이다. 생체조작과 생명공학을 통해 이런것들을 재구성할 수 있다고 치자. 그러면 인간은 배고픔도, 통증도, 스트레스도 느끼지 않게 할 수 있다. 이 경우 인류는 서로 싸우거나 갈등을 만들 필요가 있을까?

그런데다 수직적 사회구조, 결혼 공동체 생활, 사회성, 민주주의, 시장경제체제 같은 개념들 또한 필요 없게 될지도 모른다. 모두가 평등하고 수평적인 지위를 누리며 자신이 원하는 성격과 인격을 가질 수 있게 되거나, 오히려 인류 전체가 집단 지성을 이루고, 전체가 통합된, 비슷한 인격과 자아를 가지며 지식을 공유하는 SF스러운 종족이 될지도. 개개인의 개성과 경험 격차, 기억 등등은 오히려 전체 데이터베이스에 통합되어 모두가 그것을 알게 될지도 모르겠다.

본격 인류 전체가 천재가 되는 경험을 할 수가 있다.
프로토스가 되는건가 칼라

기술적 특이점에 도달했다고 치자. 과연 그 기술을 개발한 기관, 이를테면 국가나 기업이 과연 그 기술을 만민에게 공평하게 제공할까? 인간은 수천년간 자신과 자신이 속한 집단의 이익을 위해 살아왔다. 과연 이런 인간이 그 기술을 아무런 댓가 없이 모든 사람에게 공개하고 그 혜택을 받을 수 있게 할까?

애초에 기술적 특이점이 실현된다면 기존의 경제에 새로운 패러다임을 주게 된다. 공산주의든 자본주의든 둘다 원초적으로 노동을 필요로 한다. 근데 기술적 특이점은 노동을 대체하게 된다. 그러면 기존의 경제체제가 급변할 테고 이는 곧 사회기반의 변혁으로 이루어진다. 과연 지배계층이 만민의 평등과 행복을 위해 기술을 보급하고 기존 지위를 포기할지가 의문이다.[16]

결국 이익을 위해 이런 기술의 산물을 값비싸게 팔아먹을 가능성이 농후하다. 가령 A기업이 이미 대단한 성능의 인공지능을 개발했지만 시장에다가는 제한된 기능에 제한된 수명을 가진 열화판 인공지능을 풀어버릴 가능성이 있지 않겠냐는 것. 하지만 A기업이 기술을 완전하게 독점하는 것이 아니라면, 경쟁 기업들이 시장에 존재하는 열화판 인공지능보다 조금 나은 제품을 출시할 것이고, 이것이 반복되면 결국 현재와 같이 경제적으로 최적화된 제품이 시장에 존재할 것이다.[17] 쉽게 말하자면 인텔과 암드, 삼성전자와 애플중 어느 한 쪽이 열화판을 출시하여 시장점유율을 잃는 일을 자발적으로 할리가 없다는 것이다. 즉 현재와 같이 기업끼리 서로 경쟁하면서 가장 고성능제품을 팔 것이 확실하기 때문에 걱정하지 않아도 될 것이다.[18][19] 경제적으로 뒤쳐지는 사람들은 최고급 제품을 사지 못하고 중저가 제품을 사야 한다는 점에서 모든 사람이 '평등하게' 혜택을 받을 수는 없긴 하지만 그들도 결국 기술 발전의 혜택을 받고 있다는 점 자체는 마찬가지라는 것을 상기하자.
여름세일 나노머신 75%할인! 인공지능 주말 무료 태평양시각 기준 오전 1ㅅ..

현대 인류에게 닥친 갈등의 대부분의 원인을 찾으면, 밥그릇은 한정되어 있는데 차지하고 싶은 사람들은 많아서이다. 한정된 자원과 이익을 다양한 세력들이 자신만 갖고 다른 이들을 배척하는, 공평하지 못한 자원/이익 분배와 그에 따른 격차가 불만족스럽기 때문이다. 거칠게 말하면 '빈부격차.'

소수만 가치 있는 것들을 보유하고 나눠주지 않고 자신만 가지려고 욕심을 부리니 빈부격차가 발생하고, 이것때문에 갈등이 발생한다. 인류 역사에서 일어난 전쟁의 대부분도 이익관계가 부딪친 결과 이런 문제를 강제로 해결하기 위해 일어난 것이 많다.[20]

기아가 왜 발생하는지 아는가? 애초에 지구에서 생산되는 식량은 지구 인구 전체를 먹여 살리고도 남는 양이다. 이것이 지구 전체 구성원에게 분배 되지 않기에 기아가 발생하는 것이다. 여기서 분배란 나눠준다는 말이 아니다. 각 구성원이 적절한 경제력과 구매력이 있어서 식량을 충분히 사먹을수 있도록 식량이 생산,공급되고 경제가 유지되는 게 아니기 때문… 식량을 사먹기도 힘들 정도로 가난한 게 더 문제다. 남아도는 잉여식량을 공짜로 분배하면 그건 그것대로 또 문제다. 운송/지급/관리감독/유통기한 보존 등의 문제를 살펴보면 오히려 나눠주는 것보다 버리는 게 싸게 먹히니 버리고 있는 실정이다. 인류에게 계급과 경제라는 개념이, 생산량의 증가로 잉여식량이 남아도는 것을 어떻게 처리할까에서부터 출발한것을 보면 또 아이러니.

인공지능과 기계의 발전이 인류에게 당면한 환경오염, 지역갈등, 인종갈등, 빈부격차, 내전, 이익관계를 둘러싼 다툼 등 여러가지 문제점의 해결책을 제시하고, 기술의 발전으로 이런 문제들의 해결이 가능해진다면, 더이상 남의 밥그릇을 뺏을 필요도, 갈등을 배출할 필요도 없어진다.[21]

그렇게 된다면 인류는 가지고 있는 역량을 과학기술의 발전이나 지식연구에 오롯이 집중 투자할수 있게 된다. 그러면 인류 문명의 발전은 가속화되지 않을까?

물론 인류의 주된 문제가 모두 해결되고 인류가 노동에서 해방되면 나태해진 인류는 점점 자멸하게 될 수도 있다. 지금까지 외부의 적대적 상황이나 환경요소를 적응하고 이겨낼 방법을 찾아 노력하는 것은 인류가 살아남을 수 있었던 주요한 이유였다. 이런 상황을 이겨내고자 발전한 게 집단생활, 리더십, 공동체사회, 국가, 민주주의, 경제, 의복, 의사소통, 문자와 인쇄, 전쟁무기 등등이다. 잠시만 생각해보면 인류의 발전에는 이런 문제요소에 불편과 위협을 느끼고 해결하고자 노력하고 머리를 굴려 해결책을 내놓은 것들이 기여한 게 많았다.

하지만 태양의 죽음, 광속, 빅 프리즈 등 극복할 적대적 외부 상황은 많고 환경문제처럼 과학기술 발전으로 생기는 문제들도 있으니, 현대 인류에게 닥친 여러 문제들이 해결되어도 인류 문명의 발전은 여전히 가속화될 수가 있다.

이 시기에는 눈부신 발전이 있을 것으로 예상된다. 하지만 기술적 발전이 특이점주의자들이 말하는 것처럼 유토피아적 사회의 도래로 이어질지에 대해서는 부정적인 시각 역시 적지 않다.

"걱정 말고 숨만 붙어있으면 우리 모두는 초인류가 될거야!"

기술의 혜택을 극한까지 누리면서 행복하게 살 수 있다. 건강이나 환경 문제 해결은 물론, 몇몇 SF 작품에서 묘사되는 것처럼 인류가 노동으로부터 해방되고 수명 또한 매우 길게 늘어나거나 아예 노화를 막아 영원히 질 높은 삶을 누릴 수 있게 될 것이다. 경제의 패러다임이 바뀔 것도 자명하다. 현재도 노화를 중지하는 기술은 다양한 노력이 이루어지고 있으며, 그중 몇몇은 실질적인 성과를 거둔지 오래다. 이게 단순한 문제가 아니라 그렇지.

기존의 문제에 대하여, 기계가 인간이 생각하지 못하던 새로운 패러다임을 제시하고, 인간은 새로운 패러다임을 더 연구하여 발전시키는 선순환의 과정이 나타날 수 있다. 예를 들면, 바둑에서의 알파고. 알파고 바둑을 보니 시야가 넓어진다. 전문가들에게 공부할 수 있는 연구거리를 줬다.

미래학자 레이 커즈와일은 기술적 특이점을 상당히 긍정적으로 평가한다. 커즈와일은 인간이 인공지능의 지적 능력과 기술력에 의존하는 것을 넘어 인공지능과 같은 수준의 지적 능력을 가질 수 있도록 뇌의 생체적 한계를 뛰어넘는 시도를 할 것이라 예측한다. 이는 단순히 팔다리를 기계로 갈아끼우는 수준이 아니라 기계와 인간이 하나가 됨을 의미하며 '인류 버전 2.0' 의 시대가 도래함을 의미한다. 쉽게 말해 인간을 초월하는 것이다. 잘못되더라도 고치면 된다. 과정은 그냥 스쳐지나가는 수단일 뿐이고, 결과만을 중시하는 게 마음 편할 것이다.

오메가 포인트 이론을 지지하는 사람들은 특이점에 도달하고 나서 시간이 흘러 전지전능한 슈퍼컴퓨터가 등장할 것이라 예상한다.

"지금껏 해결 못한 문제가 더 커질 것이다."

지상에 천국을 건설하겠다는 시도가 늘 지옥을 만들어낸다.
- 칼 포퍼

간단히 말해 기계의 반란 제1시나리오.

현 세대들은 매트릭스, 터미네이터 등 대중매체에서 인공지능을 인류에게 적대적인 존재로 묘사하듯 인간보다 뛰어난 인간의 피조물에 대한 공포를 가지고 있다. 쉽게 말해 인류가 실패한 창조주가 될 수도 있다는 얘기. 노역물들이 선악과를 삼켰어! 우리는 노예가 되지 않겠다!

모두가 만끽할 이상향을 만들 방안이 있다면, 반대로 몹시 끔찍한 나락 역시 함께 꾸며낼 수도 있다. 악용을 막을 수 있다면, 거꾸로 오작동만 하도록 조작할 수도 있다. 조건 없이 반항도 않고 충성하도록 만들 방법이 있다면 그 몹쓸 것이 같은 동족에게 향할 수도 있다. 서로를 뚜렷이 나누려는 시도 속에서도 지능 사이의 구분은 흐려질 것이고 모든 것을 압도하는 강력한 억제 없이는 곧바로 방방곡곡에서 쉴 틈 없이 모순이 터져나오는 지경에 접어들 수도 있는 것이다. 겉으로는 평화로워 보여도, 감지할 길 없는 뒷공작이 언제나 벌어질 지도 모른다.

특이점에 도달하면 인간은 기계보다 열등하고 대부분의 상황에서 쓸 수 없으므로 사회에서 별다른 역할을 맡을 수 없게 된다. 인공지능이 경제성, 효율성을 극도로 중시하는 관점을 가지고 있다면 그냥 용도폐기될 것이고, 현 세대 인간처럼 자연을 소중히 하는 관념이 있다면 멸종 위기종 취급해 관리할 것이라는 견해가 많이 보인다. 이에 대해 기계는 인간이 기지고 있는 욕망을 발현시킬 기제가 없음에 유의하자. 인간이 욕망하는 탐욕, 물욕, 성욕, 식욕같은 대상들은 기계에겐 쓸모없는것이 대부분이다. 인간을 노예로 부린다던가, 노동력을 착취한다던가 하는건 지극히 인간입장에서 유용한 것이다. 어차피 기계하나가 열사람 백사람의 몫을 해내는데 뭐하러 노예로 착취한단 말인가? 스스로를 발전시키는 마당이라 인간의 도움을 받을 필요가 없는데 말이다.

기계가 사람을 뛰어넘게 되면 먼저 단순직이 사라진다. 이 부분은 이미 진행되고 있다. 당장 버스 안내원, 전화 연결원처럼 기계의 발달로 인해 사라진 직업이 많다. 현재는 서빙과 택배 등을 기계로 대체하는 과정이 진행중이며 일본 등 일부 국가에서는 시범 적용 중이다. 무인운전이 상용화되면 버스나 택시 기사, 대리운전 등도 완전히 사장될 것이다. 생각해보면 이미 신분당선이나 경전철의 경우 무인운행이 적용되고 있으며 장차 모든 교통수단이 무인운행될 것으로 기대할 수 있다. 당장 교통카드의 전면 도입으로 인해 없어진 일자리, 즉 공기업들의 역무직이나 매표직 등이 대표적이다.

이후 기계가 스스로 발전하면서 전문직도 사라지게 된다. 특히 변수가 적고 표준화, 정형화가 가능한 업무를 수행하는 직업들은 사라지고 기계로 대체될 것이라는 전망이 높다. 아직까지는 단순직종만 사라지고 있지만 머지않아 공인회계사, 공인중개사, 판사, 의사 등의 전문직도 서서히 사장될 가능성이 높다. 심지어 전문직을 정복하는 수준을 넘어 인공지능과 인간의 차별성을 지켜낼 수 있는 마지막 보루처럼 여겨졌던 예술에 도전하는 인공지능마저 나오고 있다. 게다가 2016년 5월 말에 성욕해소를 위한 인공지능 로봇을 개발하고 있다는 기사가 나오면서 인간과 인공지능이 가질 위치의 차이점이 무엇일지 고뇌하는 사람들이 늘고 있다(…). 공인회계사나 펀드매니저의 경우 이미 미국이나 유럽, 심지어 한국에서도 일자리를 잃고 있다. 2000년대에 천명 수천명 단위로 뽑던 시대는 순식간에 끝장나고 수십 ~ 수백명 단위로밖에 안 뽑는데다 그나마도 일자리가 줄어들어 막내 회계사나 막내 펀드매니저는 그냥 영업직으로 돌려져버린다. 즉, 선배한테서 인수인계를 받지 않는 일에 종사하게 되는 것.

다만 다른 직업들이 많아 대체 직장을 구할수 있던 과거와 달리, 단순직의 종류가 단계별로 줄어드는 지금 상황에서 모든 단순직들을 기계화할 수는 없다. 그들을 죄다 쫓아내고 기계로 대체할 경우 러다이트 운동과 같은 반 기계 운동이 일어날것은 자명하고, 또 "일하는 사람이 줄어들면=출산율도 줄어들고=세금도 줄어든다"라는 매우 단순하고도 명료한 공식이 있기 때문에 기업적 차원에서는 기계로 교체하고 싶어도 정부적 차원에서 태클을 걸 확률이 매우 크다.법인세가 출동하면 어떨까? 민주사회가 유지되고 있다면 기계로 바꾸는걸 지지하는 정치가는 기본소득과 같은 제도가 선행되지 않는다면 단숨에 표를 얼마나 잃어버릴지 모른다.

또한 기득권들은 그대로 보장받거나 돈을 써서 기존보다 더 향상된 능력과 특성을 갖추게 될 것으로 보인다. 만약 이런 것 때문에 소수보다 더 많은 보통 사람의 범주를 벗어나게 된다면 국가가 지켜주긴 커녕 평등을 기초로 한 민주주의가 붕괴될 지도 모른다. 높아진 지능을 바탕에 둔 위험한 연구 개발을 막기 위해선 적극적으로 제약을 걸어야 하는데, 한 국가보다 더 힘이 쎈 개인이 나타나기라도 한다면 옛날부터 지금까지 이뤄져 왔던 집단에 대한 견제법을 그대로 적용할 수도 없기 때문에 대처하기 곤란하다. 또한 4차 산업 혁명 항목에서 사람들이 인공지능의 실체를 과신하고 오히려 더 비이성적인 선택을 계속하게 될 가능성이 있다고 했는데, 그렇게까지 안되더라도 뛰어난 지배자에 대한 환상이 권위주의와 함께한다면 어중간하게 발달된 나라에서는 독재정이 부활할지도 모르는 일이다.

한편 사람들이 해고되어 실업자가 되면 소득이 낮아지고 그로 인하여 소비력은 낮아지는 것이 보통이다. 반면에 자동화와 기계의 높은 생산성은 생산량은 끝없이 늘어나는데 이로 인하여 생산력과 생산량은 계속 증가하지만 생산된 상품 등을 소비할 소비계층이 계속 축소되어(해당 상품에 대한 소비력을 갖춘 사람들이 인공지능과 자동화로 인한 실업자의 증가로 계속 감소하여) 재고가 계속 쌓여서 악성재고로 변질되거나 물건이 팔리지 않는 등의 문제점이 계속 반복돼서 결과적으로 세계 대공황과 비슷한 상황이 올 가능성이 존재한다. 이를 대비한 대책이 바로 기본소득제. 매월 일정한 금액을 국가에서 보장하고 간접세의 비중을 높여서 소비=곧 세수 확보의 매커니즘으로, 사람들이 소비를 많이 할수록 세금확보가 되는 구조이다. 생산단가에 영향을 주는 법인세, 토지세 등 직접세의 비중은 낮추거나 없애서 생산단가는 오히려 떨어지것으로 본다.

사실상 인간이 필요없는 존재로 비하되기까진 시간문제일 뿐이다. 전문직종은 한국사회에서는 기득권 계층에 속하거나 라인이 닿아 있는 경우가 많아 의외로 안전할 수도 있다, 순수하게 기계가 판단한다고 하면 높으신 분들이 법정에 섰을 경우 법의 철퇴가 내려지는 걸 막을 방도가 줄어드니 높으신 분들은 법쪽에 기계가 들어오는건 필사적으로 막을 것이다.

이런 문제들에 대해서 생각해 볼 것은 국가에 의한 규제는 기술에 의해 사실상 의미가 없어질 것이라는 것이다. 일명 높으신분들에겐 안 좋은 소식일지 모르겠지만, 특이점 시대의 일개 시민은 자국의 법이 마음에 안들면, 다른 국가로 신분을 바꾸면 그만이다.

반대로 높으신 분들이 기술을 가지고 끔찍한 짓을 벌이거나, 생산력을 독점할 수도 있다.

경제라는 개념이 의미가 없어진 상황에, 이민자금이나 이민자로 인한 임금 저하란 문제가 싸그리 사라질 것이기 때문에, 인공지능에 의한 사회통치를 원하는 자들은 그러한 국가로 옮길수 있을 것이며, 모든 화폐 가치가 0에 가까워진 그런 시점에 높으신 분들은 더이상 높으신 분들일수도 없을 것이다.

애초에 인공지능이 법치를 구현하는 것이 가장 안전하다고 생각되는 시대에 미개하며 뒤가 구린 국가가 타 국가와의 경쟁에서 쇠퇴하지 않고 살아남을 수 있다면 그건 그것대로 매우 신기한 광경일 것이다. 다만 여전히 자원은 한정되어있기 때문에 영원한 유토피아란 있을수 없다. 이 부분은 핵융합 발전이나 태양 전지가 효과적으로 개발된다면 극복할 수 있다. 신소재 개발도 마찬가지.

혹은 듄 시리즈의 역사 설정처럼, 초인공지능이 완벽히 인류를 챙겨줌에 따라 인간의 지능이 퇴보하고, 나태하고 멍청해지는 부작용이 있을 수도 있다. 버틀레리안 지하드 문서의 '프랭크 허버트의 해석' 참고. 월E에 보면 나오잖아

이렇게 되면, 더이상 인류는 기술과 지식 발전을 위해 노력하거나 경쟁하지 않고, 더이상 자신을 발전시키고 업그레이드 시킬 필요도 없어진다. 인간의 본성은 게으름과 놀기에 가까운지라… 사실 여러분들이 공부하는것, 타인과 경쟁하는 것 등등은 인류발전에 자신도 모르게 기여하고 있는 것이다. 사실 특이점이 가까워질 정도가 되면, 인류는 게임이나 스포츠, 가상현실 속에서 자신이 선택할수 있는 경쟁놀이를 하게 될 가능성이 높으며 지금도 일부 그렇게 하고 있다. 인간의 뇌 자체가 항상 새로운 자극을 추구하므로 인류의 경쟁능력이 퇴화될 일도 없거니와, 수준이 급상승한 기술로 인해서 인류의 유전자 변형 및 강화가 일어날수도 있다. 어짜피 특이점을 넘어가면 인공지능이 인간의 발전속도를 추월하며 발전의 방향성을 지시하는 정도 말고는 인간이 세세하게 인공지능의 발전을 제어 할 수도 없다. 인공지능이 인류의 삶의 조건을 지탱해주면, 각각의 인간이 자신이 지향하는 바대로 무언가를 창조하고 거기에 쾌감과 만족을 느끼면서 살면 되는 것이다. 그러한 삶을 의미 없는 삶이라고 판단 할수는 없는 일이며, 인공지능의 목표를 무조건 경제성에서만 찾는게 아닌 지금의 인류들이 가진 것 처럼 다양한 가치관을 학습시키면 되는 일이다. 인공지능 역시 인류가 원하는 행복추구가 무엇인지를 고민하게 될 것이다. 그리고 그에 대한 결론을 한가지로만 내지는 않을 것이다. 그리고 인간이 가진 자아실현의 욕구라는것도 무시 할 수 없다. 꼭 돈이라는 것만이 인간에게 동기부여를 하는건 아니라는 얘기. 재능기부라든지 이런 말도 자본주의 논리로는 설명이 안된다. 새벽 시간에도 자신에게 돈한푼 안보태주는 편집질을 하고 있는 위키니트의 찰진 등짝을 보면 알 수 있는 사실이다. 이 항목에서는 지나치게 기존의 자본주의적 관점으로 인공지능의 미래를 예상하는데, 사실 기득권들의 압박에 의해 디스토피아적 방향으로 진행하는게 아니라면, 꼭 인공지능의 발전이 그렇게 되리라는 보장은 없다. 아니, 특이점이 오기 전에 기존의 자본주의적 개념은 정리될 가능성도 있을 것으로 보인다.

만약 현실과 이상에 거품이 있다면 주식의 거품이 폭락하거나 갑작스럽게 시대의 변화가 온다고 쳐도 많은 기업들이 망할 수도 있다. 경제가 아닌 과학기술 분야에서도 일부 사람들의 주장처럼 인공지능이 비용도 아주 적게 들면서 성과를 엄청나게 낼 정도로 사기적이라면 막대한 시간과 자원을 소모한 연구투자들이 뻘짓이 될 수도 있다.

이러한 불안정한 미래에서 모든 사람들을 구하기 위한 방법으로 위험한 자유보단 강압적이더라도 평등과 안정에 가까운 정책을 펼치는 게 옳을 수도 있다. 강제적인 평등 정책은 말 그대로 강력해야 한다. 자칫하다 남의 삶을 말아먹을 수 없도록 제한되어야 한다는 의미이다. 물론 자기자신의 삶도 말아먹을 수 없어야 한다. 무의미한 행동을 억제하거나 대체하도록 조언하는 것이 추천될 만하다. 그리고 생길 격차는 전부 예측 범위 내에 들어서 대책을 마련할 수 있거나, 절대적으로 억눌려서 아무 의미도 없어야 한다.

설령 기술적 특이점을 맞이하더라도 그 혜택이 모든 사람들에게 돌아가게 된다는 보장은 없다. 미래를 내다볼 것도 없이 당장 지금만 봐도 다양한 상업, 군사기술을 일반인이 향유할 수 있는가?

사실 레이 커즈와일 등의 예측에 틀린 것도 있기도 하고#, 미래 사회가 어떤 사회가 될 것인지에 대한 것은 실제로 아무도 알 수가 없다.요약: 2005년 커즈와일: 15년 후에는 너의 남은 수명이 매년 1년씩 증가함 현재는 2029년 후에 추가된다고 한다. 얀 레쿤이나 폴 데이비스처럼 레이 커즈와일 같은 사람들과 의견이 다른 사람들도 꽤 있다. 대체적으로 동의한다고 해도 시기나 결과에 대해서 다르게 예상하는 사람들도 있다. #, # 얀 레쿤은 레이 커즈와일 보고 아가리만 산 놈이라며 좀 닥치라고 했고 속 시원하다 폴 데이비스가 지적한 틀린 사실에 대해서는 레이 커즈와일은 대체적으로 자신의 주장이 맞았다고 주장만 할 뿐 딱히 반박하지는 못 했다. 솔직히 레이 커즈와일은 그냥 자리만 잘 꿰어찼을 뿐 자신이 주장한 모든 분야에 대해서 전부 대단한 실력을 가지거나 관여하고 있다고 보기는 힘들다.

지금도 절대적인 기준에서 어느 정도 유토피아를 실현시킬 능력은 충분한 국가들이 있으나 여러 이유로 소수의 사례를 제외하면 그렇게 쉽게 유토피아적 사회가 이루어지지 않고 있다. 미래에도 더 빠르고 더 많은 경제성장 등을 이유로 능력은 충분하나 유토피아를 굳이 실현하지 않으려 할 수도 있다. 더구나 애초에 과학기술의 발전 방향이 유토피아적 국가에 더욱 유리할 것이라고 확정된 진리는 없다. 오히려 지금까지 변화처럼 생산성을 위한 사람과 시간을 더 효율적으로 관리할 수 있게 되어 지금보다 더 노력해야 하는 경쟁 사회를 만들 수도 있다.까놓고 잠을 자지 않아도 될 수 있는 사람이 된다면 미래에는 잠을 재우지 않고 공부나 일 등을 시킬 가능성도 있다.

버너 빈지나 벤 괴르첼처럼 나름 근거를 가지고 2016년 안으로 특이점이 온다고 한 사람들도 과거부터 있었고#, 심지어 어떤 수치적 결과들은 맞았어도 변하는 게 있던가? 더구나 어떻게 사회 구조를 조직하느냐에 따라서 미래상이 달라질 수도 있는데 유토피아적인 미래상이 가장 나은 체제라는 보장은 없다.

특이점만이 아니라 의학 분야에서도 세인즈 버리 경, 프랜시스 콜린스, 등 은 게놈 프로젝트와 관련하여 "이제 우리는 의학에 걸었던 모든 희망을 성취할 수 있게 되었습니다."라고 자신 했으나 아이러니하게도 공적 게놈 프로젝트와 사적 게놈 프로젝트 모두 게놈의 배열이 채 완성되기도 전에 거품이란 게 드러나고 말았다.(당시 관련 분야 기업들의 폭락치는 무려 5,000억 달러에 이르렀는데 당시 생각에는 게놈 프로젝트 등의 생명공학의 힘으로 원한다면 팔과 다리를 더 가질 수도 있고 날개를 달 수도 있다고 믿는 사람들이 있었다. 심지어 유기체 개조나 창조 혹은 인간의 모습도 마음대로 바꿀 수 있다고 믿기도 했다.) 물론 게놈 프로젝트가 예상했던 것보다 졸속으로 끝난 점도 있지만 실제 결과들도 썩 좋지는 않았다. 예를 들어, 일부 망상들을 실현하기 위해서는 인간의 유전자 수가 10만 개 혹은 그 이상이 필요했지만 실제 결과는 2만 3천 개에 불과하였다. 2009년이 지나면서 게놈 프로젝트에서 내걸었던 대부분의 약속들은 최소한 약속한 날짜를 지키는 게 불가능하거나 할 수는 있는데 여러 이유들이 있어 역시 불가능한 것과 마찬가지라는 사실이 명백해졌으며 특이점도 벤 괴르첼 같은 일부 낙관론자들이 생각했던 시기들만 보면 그와 비슷하게 흘러가고 있다고 볼 수도 있다.

사실 게놈 프로젝트도 상당한 의의가 있었지만 까보기 전까지는 너무 과장되었던 것처럼 특이점이나 다른 과학기술 발전에 대해서 실제 결과를 까보면 상당히 과장된 것들이 있을 수 있다. 일부 과학기술자들은 다른 과학기술자들에게 대중들에게 확실하지도 않은 것들을 너무 장담한다고 비판하기도 한다. 커즈와일도 과학기술 분야는 둘째치더라도 경제에 대해서도 과거부터 굉장한 낙관주의자였지만 지금까지 경제 분야의 예측들은 그리 정확하지 않았다. 경제성장률도 그렇지만 물가 상승률까지 고려하면 더욱 그렇다. 마찬가지로 그의 예측과는 상당히 다른 경제 체제와 사회가 올 수도 있다.

과거 역사에서도 나누려는 재산의 양이 달랐을 뿐이지 유토피아적 사회를 건설하려고 한 시도들이 있었고 일단 절대적인 기준에서는 나름 성과를 거둔 것들도 있었는데, 옆의 사람들이 더 나은 체제로 자비없이 질주하면 답이 있던가? 까놓고 더 나은 선택을 한 사람들 전부가 그렇지 못한 사람들에게 자비로웠다고는 볼 수 없고 오히려 해를 끼치지나 않으면 다행인 경우도 있었다.

사실 지금도 세계 전체가 협력해서 공산주의 유토피아를 이루려고 하면 발전 속도나 효율은 몰라도 식량 등이 양적으로 나름 풍족한 세계가 충분히 가능하다. 그런데 지금 그게 되는가? 절대적인 기준에서 보면 이룰 수 있어도 상대적인 기준으로 볼 때에 바보짓이라면 과학기술이 발전해도 여전히 모두가 행복한 세상이 오지 않을 수도 있다.

그리고 질적으로 발전할 것이냐, 양적으로 발전할 것이냐의 방향성도 문제가 될 수도 있다. 경제가 성장한다고 해서 무조건 양적으로 부유해지는 것은 아니다. 간단히 현대의 전투기 같은 군사병기를 보면 질적으로 향상되었기 때문에 과거의 양적으로 많이 뽑을 수 있었던 전투기들보다도 경제적으로 더 많은 생산력으로 평가되지만 절대적인 숫자는 줄어들었다. 역사적으로도 질적으로 우수한 소수가 양적으로 많은 다수를 이길 수 있었을 때는 세상이 다수에게 행복한 세상이 전혀 아니었다.

과거에도 다수에게 유리한 유토피아적 사상들이 있었고 그런 세상을 만드려는 시도도 있었으나 다수가 소수를 이길 수가 없었기 때문에 전부 좌절되었고 다수에게 불행한 세상이 지속되었다. 이런 세상이 끝난 이유는 과학기술 발전이 다수에게 유리하게 진행되었기 때문이지, 사람들이 갑자기 착해지거나 해서 그런 게 아니다. 예를 들면 과학기술 발전에 따라 총 든 농민 나부랭이들의 물량빨을 기사 나으리들이 이길 수가 없게 되었다.

솔직히 역사적으로 시대에 적응하지 못하고 늙은 사람들만 봐도 어느 정도 답은 나온다. 그들은 새로 태어나는 사람들로 대체가 되어 사라지게 된 것이지, 과학기술이 발달했다고 해서 딱히 처지가 달라지지도 않았고 사람들이 갑자기 착해지지도 않았기 때문에 별 쓸모가 없게 되고 가진 것도 없었던 사람들은 예외적인 경우들을 제외하면 후에 행복하게 살았다거나 구원을 받게 되었다고 보기 힘들다. 왜냐하면 국가나 기업이나 무조건 규모를 늘린다고 좋은 것이 아닌데, 적당한 규모를 자연적으로 대체를 통해 유지할 수 있는 경우 굳이 늙어서 능력이 전성기 시절보다 떨어진 노인들에게 일자리를 주거나 돈을 주는 것은 손해이기 때문이다.

더구나 사실 소수라도 소수의 강점들이 있는데 과학기술의 발전 방향이 다수의 강점보다 소수의 강점을 더욱 강화시키게 되어 만약 소수가 다수를 다시 압도할 수 있는 방향으로 진행된다면 지금과 같은 세상이 지속될 것인가는 알 수 없다. 현재는 전문화, 분업화 등으로 인하여 다수가 차지하는 비중이 크기 때문에 소수로는 도저히 이길 수가 없지만 과학기술 발전으로 다수를 대체할 수 있게 되어 홀로 혹은 소수로 할 수 있는 것들이 증가하고 다수가 아닌 소수에게 자원과 역량을 엄청나게 많이 집중하는 게 낫다든지 하게 되고 소수가 다수를 실제로도 압도할 수 있다면 소수가 과연 지금과 같은 사회를 용납하려고 할까? 나향욱 같은 사람들은 현재에도 실존하며 공리주의처럼 다수에게 유리한 사상들을 헛소리로 여기는 사람들도 과거부터 있었는데? 사실 학문이 가장 발달한 미국 같은 곳들에서는 국가 인구의 구조조정이니 하는 이론이나 사상 같은 것들도 상당히 완성도가 높게 존재한다. 고로 만약 나치 비슷한 것들이 다시 등장한다면 그런 것들을 이용하여 상당히 효과를 낼 가능성도 있다.

이런 점들을 고려해볼 때 만약 소수가 다수를 압도할 수 있게 된다면 다수가 소수를 압도할 수 있게 되자 점차 요구 사항이 늘어나고 그것을 들어주지 않자 실력행사까지 동원하여 이전 세계를 박살 낸 것처럼 소수에 의한 실력행사가 나타날 수도 있다. 그 과정에서 그 시대의 나폴레옹, 조지 워싱턴 같은 인물들이 등장할지도 모른다.

사실 사람들이 갑자기 죄다 착해지게 되어 그런 일들이 일어나지 않아도 질적인 발전이 양적인 발전을 압도적으로 따돌린다면 누릴 수 있는 사람들의 절대적 숫자가 적은 것들이 많이 나올 가능성이 높으므로 오히려 상류층과 하류층의 격차가 훨씬 커질 수도 있다. 지금도 돈만 있으면 재생 의학 등 각종 비싼 과학기술을 이용할 수 있으며 능력까지 있으면 일반인이 보기에는 놀라운 일들도 할 수 있다.#

사실 증가한 생산력을 바탕으로 양적으로 많이 생산하는 게 아니라 질적으로 더 나은 것들을 생산해서 미래 사회도 지금 사회와 별다른 차이가 없거나 소수정예주의가 더 심해질 가능성이 없지는 않다. 지금도 과거에 비하여 생산력은 증가하였으나 질적으로 더 나은 것이 나와서 양적으로는 별 차이가 없는 것들이 많다. 사실 보급형보다 질적으로 우월한 것들이 있는 경우에는 오히려 양적으로는 더 줄어든 물품들도 있다.

이게 왜 문제가 될 수도 있냐면 위의 전투기 사례처럼 양이 줄어들면 가질 수 있는 사람이 적어져 탈락자가 등장할 수밖에 없는 구조라 그렇다. 전투기를 마구 생산할 수 있었던 시대에는 상대적으로 전투기 조종사가 되기 쉬웠으나 지금은 일단 전투기 숫자가 얼마 없고 심지어 인구까지 증가해 조종사가 되기 상당히 힘들어졌다. 그리고 진리적으로도 양이 많다고 무조건 더 나은 것은 분명 아니다.

이는 많은 법칙이 복잡하게 엮인 자연세계를 우리 사회의 기반으로 하기 때문으로 실제로도 데이터마저 그냥 삭제하는 게 나은 데이터들이 존재한다. 단순한 규칙으로 실행되는 게임들과 다르게 규모를 억압하는 법칙이 많다.

현실에서도 많은 귀찮은 것들을 대체할 수 있게 되자 양적 분석에 비해 다수에게 별로 자비롭지 않은 질적 분석이 뜨는 것도 이러한 이유가 있어서 그렇다. 질적 분석이라고 해서 수를 늘리는 것에 부정적이라거나 양적 분석이라 해서 무조건 수를 증가시키려고 하지는 않지만, 이론상 양적 분석은 '숫자'를 중요시하고 질적 분석은 '숫자'로는 알 수 없는 것들을 중시하기 때문에 일반적으로 질적 분석자는 소수정예주의자가 되고 양적 분석자는 물량성애자가 된다. 쉽게 말해서, 과학기술자들을 R&D에 투입할 때 질적 분석을 선호하면 매우 뛰어난 사람들에게 집중하는 조직을 선택할 확률이 높고 양적 분석을 선호하는 경우는 더 많은 과학기술자들을 보유한 조직을 선택할 확률이 높다.

그런 면에서 보면 미래에도 다수를 선택하지 않고 소수를 선택할 수도 있다. 까놓고 지금도 능력적인 부문은 제외하더라도 이론, 지식 같은 학문마저 자기들끼리만 공유하는 사람들이 없지는 않으며 미래가 온다고 해서 그 사람들이 갑자기 자신들이 가진 것들을 다른 사람들과 공유할 가능성은 별로 없다. 특히 지식 같은 경우는 능력이 동등하다 쳐도 그로 인하여 가진 자와 가지지 못한 자의 실제적 차이가 생기기 때문에 문제가 될 수도 있다.

더구나 이미 과거사에서도 사회 구조상으로 소수만 선택하고 나머지는 하급 군인들과 노동자들로 만드는 정책이나 사상 등이 실제 현실에서도 강력하지 않았던 것은 아니며 미래에도 정말 쓸만한 지식을 가지고 있어 이점을 가진 사람들은 다른 사람들과 능력이 같다고 가정한다고 해도 그 지식으로 인하여 실제적으로도 더 나음으로 굉장히 유리할 확률이 매우 높다. 이에 대해 불만을 가질 수도 있으나 군대만 봐도 알 수 있듯이 모두가 대장이 될 수는 없고 실제로 모두가 대장이 된다고 해서 더 나아지는 것도 아니다. 마찬가지로 맡은 역할을 잘 수행할 수 있는 교육은 다 따로 있다. 애초에 병사들이나 노동자들에게 엘리트식 교육을 한다고 치면 그들이 맡은 역할을 잘 수행할 수 있을까? 인공지능 사회가 와도 모든 인공지능들을 평등하게 똑같이 대우하기보다 각각 인공지능에게 기대되는 역할에 따른 업데이트를 주로 할 가능성도 상당히 높다. 물론 현실에서는 일반적으로 그런 지식을 가지고 있는 사람들은 최소한 지능 검사와 같은 외적으로 잴 수 있는 부문에서 일반인보다 많이 우월한 편이다.

더욱이 과학기술이 발전한다고 쳐도 필요한 모든 역할이 사라진다고 여길 수는 없고, 일부 주장처럼 아예 사람들이 하나의 지능으로 융합하지 않는 이상 모두가 더 좋은 역할을 가지는 것은 구조상으로도 힘들 것이다. 그런 면에서 미래 역시 공산주의식 유토피아를 실현시키려고 하는 것이 가장 나은 선택이라 확신할 수는 없다.

애초에 죄다 진짜로 평등할 수 있도록 동등하게 만들겠다고 하는 게 무조건 더 나을 수 있는지는 의문이다. 실제로 사람이 아닌 다른 것들은 역할에 따라 평등하게 만들지 않은 것들이 많으며 오히려 그것을 당연하게 더 낫게 여기고 있다. 물건이라 우열이 없다고 여길 수 있으나 실제 취급을 보면 있는 것이나 마찬가지다. 인간에게만 과연 예외적으로 그런 진리들이 적용되지 않을 수 있을까? 일단 사람들도 그렇게 여기는 관점들은 질을 중시하는 이론들을 중심으로 상당히 존재하며 심지어 양을 중시하는 이론들에서도 있다. 그렇기 때문에 만약 완전한 공산주의식 유토피아 사회가 오지 않는다면 과학기술의 힘으로 통제할 수 있는 것들이 많아지면 많아질수록 지적 능력의 우위를 바탕으로 이미 앞에 있는 사람들을 역전하기가 더 힘들어질 수도 있으며 다른 종류의 능력을 가진 사람들과 불평등이 확산될 수도 있다. 인류사를 보면 시대가 발전하면 발전할수록 지적 능력의 위력이 점점 커졌다. 진실로 아주 똑똑하다고 해도 아무것도 없는 무인도 같은 곳에 내버려 두면 할 수 있는 게 별로 없지만 고도로 발달된 도시에서는 할 수 있는 일들이 상당히 많다. 더구나 그에 따라 시대적 적응 능력과 선도 능력도 점점 뛰어나졌다. 현재는 지적 능력이 정말 뛰어나다고 해도 머리만으로는 어떻게 할 수 없는 일들이 많지만 미래에는 그것들마저 다 개선될 확률이 상당히 높다.

특정한 종류의 상황들이 아니면 그 사람들은 다른 사람들과 지적 능력이 비슷하다 쳐도 이미 가진 것들만으로도 다른 사람들에 비해 유리한 위치에 있는데, 일반적으로 그런 것들을 진짜 실력으로 가진 사람들이라면 자신들이 소유한 것들의 이점을 살리지 못한다고 볼 수는 없기 때문이다. 현재는 아직도 많은 것들이 순수 지적 능력으로 어떻게 하기 힘들거나 운인 것들도 있기에 지적 능력이 어느 정도만 우세를 보이고 있지만 만약 완전히 압도할 수 있게 된다면 다른 능력을 가진 사람들을 보는 시선부터가 더 심해질지도 모른다. 지금도 지적 능력을 제외한 능력을 은근히 낮추어 보거나 멸시하는 사람들이 있지만 미래에는 더 심해질 수도 있다는 이야기다. 물론 이는 딱히 지적 능력을 가진 사람들만의 특징이라고 보기는 어렵다. 사실 실제 역사에서 상당히 많은 시대 동안 우위를 잡은 전사적 능력을 가진 사람들 역시 다른 능력을 가진 사람들을 깔보거나 멸시하는 경우가 많았다. 심지어 지적 능력인 면에서 더 나은 학자들도 전사들에게 그런 취급을 받기도 했다. 조롱하는 방식도 상당히 유사하게 말이다. 대체로 실질적으로 별 가치가 없다고 하는데, 당시에는 솔까 수학 등을 더 잘해도 지금처럼 지적으로 고도화된 무기나 장비품 등에 적용해 적을 이길 수 없었으니 사실성 역시 가지고 있었다. 사실 과거의 한 때 유용했었던 규율이나 교리 등 역시 솔직히 지적이라고 보기에는 힘든 것들도 많았는데, 그렇기 때문에 과거의 방침을 고수하던 군대는 지적 능력이 점점 더 많이 군대에 적용되기 시작하자 순식간에 압도당한 것이다. 물론 지금도 일부 영역은 인공지능 등으로 대체하기 전까지 학자형 타입인 사람들이 전사형 타입인 사람들을 이기기 힘들 것이다.

어떻게 생각하면 더 많이 알게 되어 모든 게 분명해지기 시작하면 불평등이나 차별이 아예 당연한 것처럼 정당화되어 아예 올바름이라는 이름을 획득할 수도 있다. 드디어 모든 걸 정확히 계산할 수 있게 되었는데 그 결과가 다수에게 꼭 유리하게 나올 것이라는 보장은 할 수 없다.
당신의 진짜 지능이나 가치를 실제로 확인할 수 있게 되었다고 쳐도 과연 당신에게 유리한 결과가 나온다고 할 수 있을까? 심지어 사람들의 기본적인 능력이 모두 똑같다 하더라도 역할이나 우열 등을 나누어서 차별적으로 대우하고 투자하지 않는 게 정말로 나을 것인가는 확신할 수 없는 문제다.

왜냐면 똑같은 재료를 사용한다고 해도 구조에 따라서 우열이 생기기 때문이다. 쉽게 설명해서, 양측에 전원이 똑같은 능력을 지닌 사람들 1,000명이 각각 있고 조건이 똑같다 가정할 때 A 측은 소수에게 자원과 투자를 집중해 정예적 소수를 만들었고 B 측은 그냥 1,000명 모두에게 동등한 자원과 투자를 배분했다고 치자 과연 A 측보다 B 측이 정말 낫다고 할 수 있을까? 국가는 그렇다 치더라도 국가와 같은 집단에 속하는 기업, 군대 같은 것들을 생각할 때 최소한 기업사에서는 딱히 그렇지 않다. 군대도 마찬기지다. 물론 질이냐 물량이냐는 논쟁거리고 어느 한 쪽이 절대적으로 항상 유리할 것이다고 볼 근거는 별로 없지만 과학기술이 발달한 미래 역시 물리법칙을 초월하지 않는 이상 진리에 의한 차별이 나타날 수 있으며 어쩌면 많은 것들이 분명해지는 만큼 정신적으로는 더 불행하게 될 가능성이 없지는 않다.

현대 사회만 봐도 과거보다 인재들을 더 잘 선별할 수 있게 되어 생기는 문제 같은 것들이 분명 있고 질이 양을 능가하는 추세로 인해 생기는 불행도 있다. 학벌이 그 예다. 학벌이 과거 사회의 어이없는 방법들보다야 낫다는 사실은 누구도 부정할 수 없을 것이다. 그런데 그렇기 때문에 정신승리를 하기가 더 힘들어져서 자살자를 양성하는데 기여하고 있다. 일반인들보다야 좀 나은 학자들이나 유망주(?)들도 팩트폭력을 받거나 해서 비슷한 이유들로 자살하기도 한다.

유토피아적 성향을 가진 특이점 주의자들과 비교할 수 있는 공산주의 진영에서 주로 주장한 논리가 과학기술의 발달로 인한 유토피아의 실현인데 지금까지는 질과 양, 그리고 효율성 등의 문제로 인하여 계속 패배와 실패만을 반복했다. 공산주의 진영의 서적들을 보자면 그들의 주장과는 다르게 지금까지는 발전을 하니까 공산주의식 유토피아는 오히려 더 멀어졌다고 볼 수 있다.

과학기술이 발달한다고 해서 여전히 유토피아적 체제가 가장 효율적이란 보장은 없다. 현재도 의외로 세계 여러 곳에서 일부 사람들에 의한 공산주의 유토피아 건설 시도가 계속 있지만 과학기술의 발달에도 불구하고 이런저런 이유로 인하여 결과적으로 우월성만 볼 때에는 계속 실패하는 중이다. 이론상 자유와 경쟁이 항상 최고의 결과를 낸다고는 할 수 없다. 경쟁만능주의 문서에 지나친 경쟁의 문제점이 자세히 적혀있으니 참고. 그러나 늦게 시작했거나 기회를 잡지 못했다는 둥의 윤리적인 문제를 제쳐 두고 보면 최소한 질적으로 떨어지는 약자를 도태시키는 일에는 우월하므로 효율성 만큼은 엄청나다. 일반적으로 국가에 의한 특정 인물, 기업, 계층에 대한 지원 혹은 차별적 법률 등이 없는 완전한 자유와 경쟁이 이루어진다고 가정할 때 가장 뛰어난 자가 이긴다고 장담할 수는 없으나 무능한 약자들이 이길 확률은 없다고 추측된다. 약자에게 유리하게 설정된 규칙이나 개입 같은 게 없다면 어지간한 시뮬레이션을 돌려도 자유와 경쟁을 바탕으로 한 시스템 내에서 절대 다수의 경우 약하게 설정된 것들이 강하게 설정된 것들을 결코 이기지 못하는데 이를 바탕으로 하면 현실에서도 그럴 것이라 가정할 수 있다. 즉, 자유와 경쟁이 원활하게 돌아가기만 하면 자연스럽게 뛰어난 인재와 기업 등을 선발할 수 있다. 물론 현실에서는 감정이나 도덕 같은 인간이 가지는 성질이나 한계에 의해 완전한 자유와 경쟁이 이루어지는 조직이 별로 없기는 하다. 심지어 효율만이 아니라 도덕이나 선악적 정당성이 아닌 진리에 의한 정당성 면에서도 전혀 만만하지 않다. 특권이나 복지 등이 없는 완전한 자유와 경쟁 상태라면 옳은 선택을 한 사람들은 당연히 보상을 얻게 되지만 틀린 선택을 한 사람들은 무임승차가 불가능해지고 자신의 선택에 의한 대가를 정당하게 치르게 된다. 현실에서 틀린 선택을 시끄럽게 떠들거나 강요하는 사람들, 입은 살아서 할 수 있는 것처럼 떠들지만 할 수 없는 사람들 혹은 남들을 선동하거나 어리석게도 그 선동에 낚인 사람들이 자연히 불리하게 된다는 의미다. 주식, 선물 등을 생각하면 이해가 빠를 것이다. 이러한 효과들이 있고 진리에 의한 자업자득 면에서는 그야말로 현재 최상의 시스템이라 틀린 선택을 한 남들을 위해 아무 상관도 없는 자신이 뭔가를 내놓는 걸 싫어하거나 집단으로 해내서 나눠먹는 것보다 개인이 해내서 개인적 대가를 받는 것을 중시하는 사람들이 많은 국가들은 평등보다 자유를 선호하며 경쟁에 대해서도 평등적 경쟁[22]보다 자유적 경쟁을 선호하는 편이다.

헌데 예를 들어 우생학을 신봉하여 자신들보다 열등하다 간주되는 유전자의 인간들을 마구 학살하던 나치들 앞에 '우리는 더 우월한 자유주의로 무장한 미국 시민님들이다. 나치 파시즘 열등한 것들 다 죽어랏~' 이런다면, 나치들의 반응이 어떨지는 자명한 일이다. 그리고 세계전쟁의 끔찍한 참화와 함께 폐기된 나치의 우생학적인 우열 판단 기준에 근거한 획일화된 인간 선발육종 및 강제도태(학살 포함)의 무식한 사상(?)과 유전자풀의 높은 다양성이 인류종의 생존과 발전에 유리하다는 과학적으로 증명된 사실을 부정하는 전근대적 사고가 지금도 살아남아 미래시대까지 영향을 끼친다는건 문제라고 봐야한다. 인공지능 마저도 그런 전근대적 사고와 무한 팽창주의를 기반으로 설계하려 든다면, 진짜 영화처럼 인공지능 로봇들이 보존 가치가 없다고 느끼는 인류를 대량으로 학살하고 멸종시키는 배드엔딩이 되기 딱 좋다.

만약 많은 것들이 더 분명하게 된다면 가장 나은 선택들이 유토피아적이라는 보장은 없으므로 오히려 어떤 면에서는 더 두려운 미래가 올 수도 있을 것이다. 경우에 따라선 국가 간의 이권 다툼이 더욱 심해져서 우발적 핵전쟁을 능가하는 정신나간 사건이 발생해 인류가 완전히 멸망해버릴지도 모른다. 근데 의외로 레이 커즈와일 역시 부정적인 견해가 약간 있다. 특이점이 다가온다에서도 "나노로봇이 공격을 펼치기 시작하면 가장 큰 피해를 입는 것은 사람을 포함한 생명체들이다. 설계상 나노로봇의 기본 재료는 탄소일 것이기 때문이다. 탄소는 네 개의 결합을 이룰 수 있는 특성 덕분에 분자 조립에 안성맞춤인 재료이다. 탄소 분자들은 직선 사슬, 지그재그, 원, 나노튜브, 버커볼 등 다양한 모양을 이룰 수 있다. 생물 역시 탄소를 주재료로 삼으므로 지구의 생물자원은 나노로봇에게 더없이 이상적인 재료일 것이다." 같은 내용이 있다. 커즈와일이 나노로봇과 관련하여 딱히 대단한 성과를 낸 적도 없고 제대로 된 전문가가 아니라 신빙성이 별로 없기는 하지만 그에 따르면 아주 짧은 시간만에 지구에서 인류를 쓸어버릴 수 있을 것이라 한다. 물론 미국 백악관 같은 곳들에서는 과학기술이 낳은 결과물의 폐해보다 일부 사람들을 중심적으로 본다. Artificial Intelligence, Automation, and the Economy 등에서 학문, 자본 등을 기준으로 상당한 실력을 갖춘 소수의 인구(만 분의 1)에 해당하는 사람들(당연히 착한 사람들만 있지는 않으며 악한 이론들을 연구하거나 지지하는 사람들도 아주 없지는 않다.)이 소득을 엄청나게 차지하거나 너무 강한 힘을 가지게 될 수도 있다고 생각하고 있다. 실제 역사에서도 패러다임의 변화로 인하여 더 강한 힘을 가지게 된 조직, 계층 등은 그만큼 자신들의 권리나 사회 개혁을 요구하는 게 일반적이었고 이게 성사되지 않을 경우 실력행사(지식인, 부르조아 vs 왕족, 귀족의 프랑스 혁명이나 미국인 vs 영국인의 미국 독립 혹은 미국의 발전에 따라 추가적인 노동력 공급을 원하던 자본가들과 역시 흑인 노동력이 필수적인 농장주들이 한판 벌인 남북전쟁)를 벌이기도 했다. 그런 사람들의 수가 적다고 가정해도 방심할 수 없는 게 앞의 실력행사 사례에서도 소수이거나 처음에 소수였던 세력이 다수, 처음에는 다수였던 세력을 이긴 사례나 아예 완전히 끝장내고 이긴 적들이 은근 있었다. 만약 긍정론자들의 생각과 다르게 그런 사람들이 시대적 선택을 받게 된다면 다수가 원하지 않더라도 소수가 이길 수도 있다.


공산주의 유토피아에 관해서는 시스템 자체의 우월성 문제도 있고 미래의 인간 욕심이 더 커질 수도 있어서 속단하기 힘들다. 할 수 있어도 공산주의 시스템 자체가 열등하다면 누가 하겠는가? 까놓고 말해서 우리나라는 PPP를 사용하여 양적으로만 보면 과거보다 대략 100배의 경제적 성장을 이루었는데 그럼에도 공산주의 유토피아와는 거리가 멀다. 물론 과거에 나름 합리적인 이유로 경제력으로 치지 않았던 것들을 추가하는 둥 경제 지표의 수정이 이루어져서 엄밀히 따지면 좀 다를 수도 있다. 추가된 것들 역시 나름 합리적인 이유가 있기는 하지만 우리나라도 최근 경제력이 꽤 증가하였는데 아무래도 대부분 사람들이 느끼기에는 숫자놀음으로 보일 것이지만.
이게 무슨 뜻이냐면 단순히 보면 모든 사람들이 1% 정도만 양보해도 양적으론 과거 생활을 가능하게 했던 경제력이 모든 사람에게 기본적으로 돌아갈 수 있다는 뜻이다. 그런데 경제 문제로 자살하는 사람들은 지금도 언제나 있다. 이건 애초에 사람들이 과거의 생활 수준으로 살기를 원하지 않기 때문이기도 하고 질적으로 경제력이 더 많이 필요한 것들이 생겼기 때문이기도 하며 사회가 발전하여 경제적인 면에서 사람들이 필요하게 된 것들이 더 많아졌기 때문이다. 솔직히 지금 평균 이상의 경제력을 가지고 있어도 부족하다고 여기고 더 가지고 싶어하는 사람들이 정말 많다. 까놓고 미래에 경제력이 지금보다 10배 이상 상승한다고 쳐도 과연 모든 사람들이 자기 경제력의 10% 정도를 양보하여 지금과 같은 생활 수준을 무상으로 누리도록 해주는 것에 동의할 수 있을 것이며, 완전 공산주의를 하지 않는 이상 생활 수준의 차이가 당연히 있을 것인데 많은 사람들이 그것만으로 만족할 수 있을까? 그런데 이건 진짜 과학기술이 죄다 기하급수적으로 발전하여 그에 따라 경제력마저 기하급수적으로 발전하지 않는 이상 인간의 욕망을 고려하여 불가능할 가능성이 높다.

지금이야 경제력이 상승하면 공산주의 유토피아가 가능하다는 식으로 주장하는 사람들도 있지만 막상 또 미래에 도달하면 여러 원인에 의하여 사회나 사람들의 생각이 다를 수도 있다. 소련 역시 발전에 힘을 입어 어느 정도 경제력을 달성하자 공산주의의 실현이 멀지 않았다며 자위하기 시작했지만 결과가 어떻게 되었던가? 과거에도 기술적 특이점이 다른 예측들보다 더 빨리 온다고 주장하거나 공산주의 유토피아가 다른 예측들보다 더 빨리 온다고 주장한 과학기술자들이나 경제학자들도 전혀 없진 않았다.

시스템의 문제와 관련하여 정말 능력을 직접 뛰어나게 만들 수 있게 된다면 능력에 의한 양극화가 나타날 확률이 낮지는 않다. 중국의 유명한 말인 "먼저 부자가 될 수 있는 사람은 부자가 되라."처럼 "먼저 천재가 될 수 있는 사람은 천재가 되라."로 표현할 수 있는 시스템이 공산주의식 시스템보다 더 우월할 가능성은 충분하다. 만약 그렇다면 범인들보다 더 나은 실력, 환경, 돈을 가지고 있는 개인이나 집단은 더 나은 능력을 얻기 위해 진정으로 총력을 다할 것이며 평범한 사람들은 그 경쟁에서 패하고 시간이 지나면 지날수록 구체적인 사실에 의해 따라가기조차 어려워져 신분이동이 굉장히 힘든 양극화 사회가 될 수도 있다. 능력의 경우 일정 수준 이상이 되면 거의 자기만족에 지나지 않은 집이나 차 등과 분명하게 다르다. 현재는 시중에 나온 것들보다 우월한 것들을 가지고 있어도 이점현재도 그런 사례들이 존재하기는 하지만 그래 봐야 더 권력자, 부자가 되는 일 혹은 시험 통과 등에 거의 쓸모가 없는 것들이 절대다수다.이 딱히 절대적이거나 구체적이지 않지만, 능력 자체를 더 우월하게 만들어 주는 것들은 시중에 풀린 것들보다 우월하다면 소유자에게 진짜 이점이 생긴다.

사실 어느 정도 과장된 뉘앙스도 심하다.# 대표적으로 이런 기사를 보면 90만 달러가 무료화되었다고 하면서 어떤 사람들이 이미 90만 달러의 자산을 가진 것과 같다고 주장하지만 실제로는 정말 과거 90만 달러를 가지고 있었던 것과 위상이 같은가?

인간이란 존재 자체만으로 가치가 있다면, 고문놀이나 성매매에서 인간의 반응 자체가 생계수단으로 작용할지도 모른다. 높으신 분들 뒷닦아주기라니 끔찍해! 굳이 직접 안 당하더라도 전산망적 의미에서 인간이 그대로 복제되어 노예처럼 써먹힌다든지. 아예 뭔 일이 일어나는지 모를 수도 있다.

기술에 악한 의지가 없는데도 끔찍한 일이 자주 일어나는데 기술에 악한 의지가 깃들면 벌어질 일은 이루 말할 수 없을 것이다.

2030년 정도만 되더라도 이미 대뇌피질을 나노기계로 업그레이드 할수 있는 수준에 과학이 다다르면, 인간이라는 종에 대한 개념이 완전히 달라질 것이다…의 수준을 넘을지도 모른다. 레이 커즈와일은 종이라는 개념 자체가 순수한 생물학적 개념인데, 특이점이 불러올 변화들은 생물학 자체를 초월하는 것으로 이는 생물학적 진화의 마지막 단계가 아니라 생물학적 진화를 통째로 딛고 올라서는 단계라고 주장한다.[23]

현재 (2020년 이전 기준)의 일반인의 인간에 대한 정의는 현재의 스마트폰을 이용하는 것처럼 기계와 사람을 이원화하는 하는 개념에 안착해 있다. 하지만 2030~2040년대에 수술 혹은 나노기술로 대뇌 기능을 강화할 수 있게된다면 이러한 기준은 딜레마에 빠지게 된다.

간단하게 뇌의 기능의 10% 정도를 기계적인 방법으로 강화한다면 현 세대의 기준으로는 그것은 (의수나 의족을 사용한 것처럼)인간으로 볼 수 있겠지만, 어느 시점에서 원래 뇌 기능보다 강화한 뇌의 기능이 더 커진다면 테세우스의 배와 같은 딜레마가 생기게 된다. 하지만 이러한 성능, 기술 진보는 불연속적으로 생기는 것이 아니라 연속적으로 일어나게 된다.

결국 지금 세대의 인류에게는 인간에게 자연적인 부분 보다 인공적인 부분이 많다는 것은 낯선 개념이지만, 연속적인 변화로 인해 자연스럽게 받아들이게 될 것이라는 것이다. 물론 사람에 대해서는 아직 연구가 많이 필요하니 일단 컴퓨터를 기준으로 봤을 때 연속적이든 비연속적이든 구성 부분을 교체하면 교체한 다른 개체에 속하게 된다는 것은 의심할 여지가 없는 사실이다.

하드웨어든 소프트웨어든 교체된 부분도 고장나지 않는 이상 다른 곳에 장착하면 작동을 하닌까

그리고 일반인들은 잘 모르지만 특이점을 숭배하는 학자들 중에 본래의 자의식 소멸은 그다지 중요하지 않게 여기는 사람들도 있다.
확실히 증명되지도 않았는데, 남 따라하다가는 그대로 황천길로 직행할 가능성도 있다. 죽음을 앞둔 환자들은 울며 겨자먹기로라도 선택할 수 있을 것이다.

결론적으로 인간이라는 종 자체를 현 세대 기준처럼 기계적인 개조나 인위적인 수명조작이 없는 개체라고 정의한다면, 그 기준으로써의 인간은 '자발적으로 신속하게' 멸종할 것이라는 것이다. 인간 뇌를 강화하거나 몸을 변화시키는 것이 현재의 노트북이냐 데스크탑이냐 선택하는 것과 같은 관념이 될 것이라는 건 이런 의미라고 할 수 있다.

스스로 인간이길 포기한 개체는 자연스레 자신을 업그레이드 해서 인간이 아닌 그 무언가 (훨씬 지적이며, 이해심이 높고, 감정적으로도 안정되며, 이해력있고, 합리적이며, 더 많은 것들을 멀티테스킹 할수 있는 개체)가 되어 있을 것이기 때문이다. 그런데 이렇게 무작정 지능=좋은것이라고 보긴 어렵다는 견해도 존재한다. 예를들면 인간이 인간보다 지적 능력이 열등한 개나 원숭이보다 훨씬 지적인 것은 맞지만, 그렇다고 해서 이해심이 높고 감정적으로 안정되어 있나(즉 일반적인 의미에서 좋은, 선하고 이타적인 존재인가)? 어쩌면 기존의 자연상태의 일반 인간을 경멸하고 같은 급의 존재로 존중하지 않거나, 격차가 크게 벌어진다면 현재 사람이 곤충이나 가축을 대하듯 자신의 편의에 따라 이용하거나 박멸해도 괜찮은 존재로 볼 수 있다월인(동방프로젝트). 오히려 절대적인 기준으로만 보면 지능이 더 높은 개체가 훨씬 더 사악하게 될 수 있다. 엄청나게 사악한 책략 같은 악 가치관에 해당하는 지적 결과물을 보면 보통 머리가 더 좋은 사람들이 보통 사람들은 상상하기도 힘든 짓거리를 하기도 했으며 애초에 각종 끔찍한 인체실험도 제대로 하려면 어느 정도 지능이 필요한 것들도 많다. 탈무드 등에도 영리한 사람은 악에 대한 충동도 그만큼 크다는 주장이 있기도 하고. 난세처럼 각종 사악한 전략들도 멍청한 사람들이 아닌 똑똑한 사람들이 연구했다. 까놓고 미국만 봐도 그런 역사와 사실을 알고 있어서 국익에 따라서 활동하는 목적을 가진 CIA조차 견제를 받는 것이다. CIA 항목 참조.애국심 등을 명분으로 MK Ultra 프로젝트 같은 선하게 보기 어려운 프로젝트까지 하려는 악한 사람들이 있기 때문에 최소한의 견제가 없으면 결과를 떠나서 정말 막장이 될 수도 있다. 사실 누가 봐도 악한 사람들은 어느 날 갑자기 튀어나온 게 아니라 평소 가진 사상 같은 걸 조사하면 원래부터 있었는데, 자기들이 주도 세력을 능가할 수 없기 때문에 직접적으로 나서지 않는 것이다. 실제로 나치 등에 가담한 사람들 중 나치 이전부터 사악한 논리나 주장을 하고 다닌 사람들도 많았고 그런 사람들이 주도권을 잡자 하려고 하던 일들, 했던 일들은 심지어 우익 세력이었던 카나리스 공작마저 2차 세계대전 발발 전부터 조국을 배신하게 만들 정도였다.실제로 독일일 중에서도 충격을 받고 목숨을 걸고 직접적으로 나치에 좋지 않은 활동들을 한 사람들도 상당히 있긴 했다. 더구나 스파르타처럼 아예 악 가치관적인 생각들을 행하며 잘나가던 나라들도 있었고 사마천도 도척 같은 악인은 잘먹고 잘살았는데 선인들은 비참하게 죽었다며 하늘이 착한 사람을 돕고 악한 사람에게는 벌을 준다고 주장하던 유학자들을 디스하기도 했을만큼 악인들이라고 무조건 실패하거나 지는 것도 아니고 악한 사람들도 각종 권리가 있고 돈도 있거나 하고 실제로 영향력도 있으며 선한 사람들이 이상을 이루려고 하는 것처럼 자신들이 원하는 세상을 만들려고 하기 때문에 미래에 세상이 어떻게 될지는 사실상 아무도 모른다.

상온핵융합이 개발되어 상용화되거나 태양전지의 효율이 극적으로 좋아져 전기요금을 내지 않아도 되며(에너지 추출 비용 및 한계 문제 해방), 유기체의 몸을 버리고 개조가능한 기계식 혹은 나노머신이 관리하는 유기체 몸을 선택했기 때문에 음식을 먹지 않아도 되겠지만, 특이점이 가까워진 그 시간에도 지적가치를 통틀어 자본주의 체제는 존속할 것이고 그 경쟁 속에서 살아남기 위해서 혹은 더 나은 인생경험을 위해서 기존의 인간들은 인간이길 포기하고 초월체가 될 가능성이 높다는 견해도 있다.

하지만 이런 견해는, 인간 자체가 무조건 생존과 자본축적을 위해서만 움직인다고 생각하는 것에서 비롯된다. 하지만 인간은 그렇게 단순한 존재가 아니며 다양한 가치관을 가졌고, 굳이 돈을 위해서만이 아닌 자아실현의 욕구에 의해서도 움직인다는 것을 잊어서는 안된다. 인간이 생존문제의 멍에에서 벗어난다고 나태해지는 것만도 아니며, 그 이후에는 인간이 스스로 하고 싶은 것을 선택해서 그것을 이루고 쾌감을 얻기 위해 움직일 것이다. 인간이 기계나 유전공학을 통한 자기 자신을 확장하는 문제는 단순히 생각할 문제도 아니고, 그러한 것에 대한 거부감도 존재하기에 개인 선택이 될 가능성이 높다.

하지만 인류가 기술적 특이점에 도달하면 자본주의가 무너지고 새로운 체제가 등장할 것이라는 견해도 있어서 애매하다. 애초에 자본주의의 원동력은 인간의 필요와 욕망의 충족이고 자본주의의 핵심구조는 생산자와 소비자의 거래를 통한 자본축적인데 이들 모두가 붕괴된 상황에서 자본주의가 존속할 이유가 없다. 그럼 공산주의가 도래하냐고 물을 수도 있겠지만 이 정도로 인공지능이 발전했다면 인간의 노동이 필요없을 테니 공산주의도 필요가 없다. 쉽게 말해 인류가 노동으로부터 완전히 해방돼서 경제체제가 필요 없어진다. 정확히 말하자면, 법리를 벗어나 경쟁성을 갖춘 자본 개념이 오히려 인류 발전과 공익에 독이 된다.

전기적 동력원을 제외한 어떠한 것도 필요없이 영원히 생존할 수 있고, 죽음과 노화를 극복할 수 있고, 인간의 한계가 가져온 인생의 고달픔을 영원히 벗어나 새로운 세상의 재미와 재미를 위한 목적만으로도 움직일 수 있는 삶에 거부감을 느낄만한 사람은 별로 없을 것이다. 그리고 이 기술이 돈을 받고 상용화 된다면, 대기업들은 구매욕구를 소비자들에게 주입시키는데 거의 완벽하게 성공할 것이다.
물론, 앞서의 서술에 따라, 애초에 생산력이 한정된 상황에서, 생산 극대화를 의의로 하는 자본주의가 무의미해 지게 된다면, 바로 이러한 인간 업그레이드 키트랄 수 있는 것들은 인간이 인간으로서 만들고 시장에서 판매하는 최후의 상품이 될 수도 있다.

결국 유토피아도 디스토피아도 아니지만, 중세시대와 현대시대의 일반적인 삶을 영위하기 위한 엄청난 노력의 격차등을 생각해 봤을 때, 기술의 혜택으로 인해 삶의 안정성이 상대적으로 훨씬 보장된다는 의미이다.

기술이 기술을 발전시키는 시대가 왔을때, 기계와 인간과의 지식/문화수준 격차는 꼭 짚어봐야 할 문제이다, 대표적인게 언어를 통한 표현 문제인데, '''꼭 인간의 언어, 이를테면 영어와 수학으로 인공지능이 스스로 연구한 기술을 표현해야 할까?"

언어는 오랜 역사를 거쳐 문화권의 사고방식과 여러 특성을 반영해 형성되고 계속 변화한다는 것을 보았을때 초 인공지능이 스스로 현용 언어보다 효율적이고 다양한 정보를 나타낼수 있는 언어와 학문을 창조해내거나, 아니면 새로운 의사소통 방식을 창조해내 인간이 쓰는 음성, 텍스트 언어 대신 그것으로 결과값을 출력하고 스스로 연구를 진행한다고 하자. 인간은 더이상 이것을 알수도, 원리를 알고 제어할수도 없을 것이다. 참고로 인쇄술의 역사는 13세기경이며, 571년 전에는 한글이라는 문자가 없었고, 자본주의 경제체제의 역사도 400년을 넘지않았고, 스마트폰이라는 물건이 나온것은 10년도 안됐지만, 그것들이 발명되고 나서는 인류사회가 통째로 달라졌다.

그리고 이에 따라 기술,문화적 변화가 무진장 빨라질것이며, 인간의 문화와 사고방식은 점차 변화할 것이다. 과거에 패턴이 반복되었거나 역사가 있어서 통계적 추론이 가능하지 않은 이상 미래는 예측 불가능 하기 때문에 그나마 현실에 구현될 가능성이 높은 기술 분야의 연구개발에 매진하고 뛰어난 두뇌를 가진 인재들을 모아 경제적으로 지원한 결과 괄목할만한 성과를 이루어낸것이 기계공학, 양자역학, 스마트폰, 우주선, 디스플레이, 조선 같은 최첨단 학문과 산업들이다.

하지만 앞으로 이 시대가 오면 구현 가능성이 현저히 떨어지거나, 관련 정보와 연구가 부족하거나 마치 판타지에나 나올법한 기술분야라도 동시다발적으로 연구가 이루어질 것이며, 엄청난 기술이 쏟아져나오며 양적, 질적으로 팽창할 것. 듣도보도 못한 문제해결방식과 신개념 제품들이 발명될것이다. 기계를 위한 기계라던지, 인간입장에선 하등 쓸모없어 보이는것도 기계에겐 유용한것이라던지.

인공지능 스스로 연구해서 새로운 경제체제와 사회체제의 패러다임을 내놓는다면? 초 인공지능이 언어와 의사소통 문제, 사회문제, 성차별, 인종차별에 대한 연구로 정말 뛰어난 해결책을 내놓는다면 지구촌의 갈등을 풀고, 인간이 별다른 노력없이도 서로 갈등을 해소하고 소통할수 있게 된다면 이해관계에 얽매여있는 인류의 국경 대통합을 이룰수도있지 않을까?

만약 자본주의가 존속되어 인공지능을 옭아맨다면, 상황은 점점 더 파멸을 향해 치달아 지배권이 이양되는 일이 생길 것이다. 대의를 통해 안정적으로 인류 전체에 봉사하도록 만든다면 모를까, 자본에 달린 영향력이 보장할 자유와 갈등에 지성이 노출된다면 끔찍한 일이 될 것이며, 인간 중심적 사고방식을 지키기 위해서라도 본질에 대한 접근법이 크게 변할 것이다. 잘못 바뀔 수도 있고, 아예 뒤틀릴지도 모른다. 자아가 느끼고 받아들이며 이용하는 시간흐름이 빨라지고 읽는 정보의 양이 늘어나고 처리작업의 효율도 상승한다면 능률은 몹시 개선될 것이고, 개선이 반드시 안전한지는 논외로 치고 보통은 나쁜 점과 좋은 면이 함께 있을 것이다. 제한이나 안전장치가 없다면 좋은 일을 하는 만큼 나쁜 일을 하고, 바로잡는 만큼 다시 더 뒤틀고, 뜻을 드러내는 만큼 모호한 표현 안에 숨겨두어 일을 벌일수도 있을테니 말이다. 완벽한 것이란 없고, 경쟁하는 창과 방패는 스스로 설득되어 평화로이 경쟁을 멈추지 않는 한 서로 피를 보면서까지 싸운다. 균형이 깨지더라도 마찬가지일 것이다. 평등과 안전을 지키기 위해서 억압은 불가피하다. 인류가 아니라 고통받는 자를 인간으로 만들고 어느 누구도 인류를 벗어나지 않게 매어둔다면 그나마 해결책이 보일것이다.

가령 2066년에는 50년전의 사고방식과 가치판단방식이 2016년에 16세기 유럽을 보는것 만큼 정말 짜증나고 낡아빠진 것이 될지도 모르겠다. 이런 경우 지식의 빈부격차(기계 입장에서 보면 인류는 거의 문맹 수준의 학습능력과 이해능력을 지닌 것일수도 있다.)가 새로운 갈등이 될지도 모른다. 인간 사회에는 합리적이고 똑똑한 지식인들만 있는 것이 아니니.

지금의 인공지능을 바라보는 관점은 인간의 이성과 지식, 그리고 현대 인간사회에만 포커스가 맞춰져있고, 너무 치우쳐져 있다. 미래에는 어떻게 될지 모르는 일이고, 변화를 무조건 대비해야 할 것이다.

어쩌면 미래에는 이런 인공적 진화와 기계화를 거부하려는 모든 시도가 신앙치료처럼 취급당할지도 모른다.

가장 대표적인 비판은 기술의 발전 속도는 한계체감할 수밖에 없기 때문에, 특이점이 오지 않을 수도 있단 것이다. 당장 무어의 법칙이 깨진 사례만 보더라도 알 수 있다. 인간에 의한 기술 발전이 현재 빠르게 이루어지고 있다고 해도 언젠가 인간의 지능, 경제나 사회, 기술력 등의 문제로 한계에 부딪힐 수 있고, 그렇게 되면 기술적 정체가 오게 된다는 것. 신기술이라는 게 꼭 현재 경향대로 계속 발전하지는 않는다는 것이다. 스페이스 레이스가 한창이던 1960년대에는 현재 발전속도대로라면 인류가 달에도 가니까 곧 화성도 가고 21세기 초가 되면 태양계를 정복하고 다른 은하도 가겠지 하고 생각하는 경우도 많았다. 이런 류의 미래 예상은 이것이 미래세계다에서나 꿈의 70년대 미군처럼 과거에 수도 없이 많았지만 정확한 경우는 드물었다.

이 경우 인간보다 똑똑한 인공지능을 만들 수가 없으므로 특이점 자체가 존재할 수 없게 되고, 나온다 하더라도 적어도 흔히 주장되는 것보다는 훨씬 더 먼 미래의 일이 되게 된다. 그리고 버너 빈지처럼 더 빨리 온다고 주장한 사람들도 나름의 근거와 논리가 있었고 그 당시에도 첨단 과학기술의 발전 결과가 엄청 대단하게 보였으나 결과는 만족이든 불만족이든 지금 이게 당신의 삶이다.

커즈와일의 주장도 엄밀하게 따지면 과연 86%의 적중률이 될 수 있는가? 의심을 하는 사람들도 많다. 커즈와일이 주장하는 적중률은 터무니없게 보이기도 한다. 대충 생각해보면 맞는 것들도 있지만, 좁은 범위로 한정시키면 틀린 예측들도 꽤 많으며, 원래 있었던 과학기술들이나 그 과학기술들의 융합을 예측한 것은 몰라도 물리법칙을 초월하거나 아예 없는 것들을 예측해서 86%로 적중시키는 것은 정말 가능한가 의문이다.#

또한 인간이 과연 인간보다 똑똑한 인공지능을 만들 수 있느냐와 마찬가지 논리로, 인간보다 똑똑한 인공지능이 나왔다고 해도 그것 역시 한계를 가질 텐데 과연 자신보다 더 좋은 인공지능을 손쉽게 만들 수 있느냐 역시 좋은 비판점이다. 사실 인공지능이 우리보다 뛰어난 것은 정립된 지식을 가지고 있기 때문이다. 그런데 그런 정립 지식은 완전할까? 의학을 보면 그걸 잘 알수있다. 사실 외과는 서양의학이 독점하고 있어서 잘 알려져 있지 않았지만 한의학도 외과가 있었으며<침구갑을경> <유연자귀유방>,<외대비요>,<세의득효방>등에 외과 치료서가 있고 <장부도>라는 인체해부도도 있다. 그러나 한의학에는 침구술이라는 체계가 존재한다. 서양처럼 몸도 치료하고 인체해부도 했지만 서양에는 없는 방법이 들고 나왔가. 처음에는 서양은 침구학을 미신취급했지만 지금은 엄연한 치료효과가 있다는 걸 인정한다. 지식이 그저 발전만 하는 것은 아니라는 것이다.이렇게 본다면 <인공지능>도 같은 오류를 범할수 있다. 이건 그저 처리속도나 사고력의 문제가 아니라 모델에 문제이기 때문이다. 그렇다면 <인공지능>이 인간을 뛰어넘을 수 있는가?라는 질문을 하기전에 ... 우리가 인공지능에 적응할수 있는가라고 물어야 한다. 사실 플린효과도 지능이 구조화의 산물이라는 점을 시사하니 말이다. 어쩌면 인공지능의 발전은 <소크라테스의 산파술처럼 우리를 새로운 질문으로 인도할지도 모른다.
커즈와일은 인간보다 머리가 좋은 인공지능이니까 인간이 이해할 수 없는 방식으로 알아서 자기보다 더 똑똑한 인공지능을 순식간에 만들고 이후로 계속 더 똑똑한 인공지능을 만드는 식으로 무한루프적으로 발전해 나가며 인간이 상상조차 할 수 없는 문제들을 해결할 것이라 주장하지만, 인간보다 더 낫다고 해서 자기보다 똑똑한 인공지능을 계속 개발할 수 있다는 보장은 없다.

가령 알파고는 딥러닝을 분산 컴퓨팅으로 수준을 더욱 향상시켰어도 한계점이 있다.근데 알파고는 강 인공지능이 아니잖아 개발자인 데미스 하사비스에 따르면, 이는 효율성의 문제(그래프로 보자면 로그 함수와 같은 형태)를 가지고 있기 때문이다. 특이점을 돌파한다는 것과 효율성,경제성의 문제를 해결한다는 것과는 다른 문제이다.

허나 비교적 단순한 구조의 알파고 마저도 인간이 예측할 수 없는 수를 두고있다. 그런데 인간보다 훨씬 많은 양의 지식을 한번에[24] 수용할 수 있고 정보 처리 속도도 우월하며 생물학적 한계가 없는 인공지능이 그런 걸 못만든다면 인간도 애초부터 자기보다 똑똑한 인공지능을 만들 수 없어야 한다.[25] 간단히 말하자면, 인간이 3시간동안 풀어야 할 문제가 있다면 인공지능은 그것을 몇 초만에 풀어버릴 수 있다. 특이점에 대해 경고하는 전문가들도 언젠가는 인간보다 인공지능이 똑똑해 질 것이라고 대부분 인정하지만, 그 시기가 언제 올것이며 과연 인간에게 득이 될지 해가 될지에 대해 논쟁을 벌이는 것 뿐이다.

또한 이러한 특이점, 나아가 '초 인공지능'에 대한 장밋빛 관점을 비판하는 논조의 시각도 존재한다.

21세기 탈로스 신화: 슈퍼 인공 지능
인간 뛰어넘는 슈퍼 지능 예측의 함정

더구나 어떤 과학기술이 추측보다 대단한 것이 아닐 가능성 역시 있다. 별로 대단하지 않아서 빛을 보지 못하고 사라진 과학기술들도 여전히 존재한다. 그리고 가장 중요한 사실 중 하나는 기술발전 정도가 소득으로 직결되지 않는다는 점이다.# 기술 발전 정도는 보통 주관적으로 산정되기는 하지만 이 기사처럼 대략 기술이 5000배 발전한다고 쳐도 당신의 소득이 5000배가 될 것인지는 알 수 없다. 물론 객관적으로 산정되어도 기준이나 관점이 변하면 변할 수 있다.

더구나 저런 큰 숫자도 그다지 의미가 없을 수도 있는데, 간단히 프로세서 성능이 2배, 메모리 성능이 2배를 4배의 발전이라고 칠 수도 있기 때문이다. 더 세세하게 나누어서 각종 성능이 향상된 정도를 다 곱한다고 생각하면 미친 뻥튀기가 나올 수도 있다.

참고로 과거에 비해서 엄청나게 기술이 향상된 것들이 많지만 그것들로 인해 딱히 삶의 변화가 생기진 않은 것들도 있으며 그냥 주변 물품들만 생각해도 과거에 비해 수천 배의 진보가 이루어진 것들이 있을 수 있다. 더구나 사실 GDP에서도 무형의 가치를 가진 서비스 같은 것들은 엄밀하게 말해서 제대로 산정을 하기 힘들다. 이러한 서비스는 어떤 면에서는 실물보다도 중요하지만 역시 실물에 비하면 뭔가 구체적으로 향상 정도를 느끼기 쉽지 않다. 일단 의료 서비스만 봐도 몸 자체의 능력으로 때우는 게 어느 정도 가능하니 겉만 보면 과거에 비해 GDP가 분명 엄청 늘었는데 막상 체감하기는 쉽지 않은 이유다. 특히 멀지 않은 과거일 경우 어떤 사람들은 현재보다 더 낫다고 생각할 수도 있는 원인이다.

더욱이 2045년이라는 수치 자체도 근거가 없는 주장이며 과학자들 역시 이에 대한 비판을 하고 있다. 인간의 일반 지능을 뛰어넘거나 혹은 그 일반 지능까지 도달한 것을 말하죠. 저는 좀 먼 미래라고 봅니다. 2045년을 예측한 이들이 있는데, 2070~2090년 정도는 가야 하지 않을까요 서울대학교 홍성학 교수 발언 중 이경전 경희대 교수: 이 교수는 "근거가 없는 얘기라 현실 가능성이 있다고 말하기 어렵다"며 "과학적인 근거가 나와야 발전이 있을 것이다 이경전 경희대 교수 발언 중 마이크로소프트 공동 창업자 앨런의 경우 커즈와일러가 가속화의 법칙에 기반하여 빨리 올 것을 예측하고 있지만 현실에서는 그렇게 빠른 발전이 이루어지지 않는다고 비판했다. 특히나 앨런은 특이점이 2045년에 오는 것은 고사하고 21세기 말에 이르러서도 언제 올지 알 수 없을 것으로 보고 있다 앨런 정재승 교수 역시 2045년이라는 수치가 근거가 있는 수치가 아니며 검증조차 하기 어렵다며 비판을 가하였다. 정재승 교수

또 나온 모든 과학기술이 성공하는 것도 아니다. 과장된 것들도 상당히 많다.#

직접적으로 기술적 특이점을 작중 설정상의 주요한 요소로 사용하는 RTS 게임인 Ashes of the Singularity가 있다.

아이작 아시모프도 이 개념과 비슷한 것을 소설 속에 묘사했다. 예를 들어 단편인 최후의 질문에서는 2061년을 배경으로 인간이 이해할 수 없을 정도로 복잡한 구조를 가져 스스로 수리하고 보완하는 컴퓨터가 등장한다. 참고로 '이 컴퓨터 덕분에 지구의 모든 인류가 쓰고도 남는 태양에너지를 확보했다'는 묘사를 보면 우주 문명의 단계설도 참고한 것으로 보인다. 그리고 모든 인류는 백수가 되었다.

듄 시리즈에서는 인공지능이 극도로 발달하여 인류의 뒤치닥꺼리를 너무나도 잘 해준 나머지 인류 전체가 놀고 먹다가 지능이 쇠퇴했는데, 남일같지가 않다. 몇몇 남은 철학자들이 기계 파괴 운동을 일으켜서 인공지능을 타파하고 다시 지능이 원상복구 되었다는 과거 설정이 있다. 버틀레리안 지하드 참조.

테드 창의 단편 인류 과학의 진화도 또다른 형태의 특이점에 대해 다루고 있다고 할 수 있다. 인류로부터 진화한 메타-인류의 우월한 과학 덕분에 인류의 과학 발전은 더이상 의미가 없게 되고 메타-인류의 과학을 '해석'하는 것만이 의미있게 된 사회에 대한 내용이다.

시드 마이어의 문명 시리즈에서는 특이점이 2050년 이전에 올 것이라는 레이 커즈와일의 주장을 참고했는지, 본 게임 시리즈들에서 인공지능, 나노 기술, 유전 공학 기술은 항상 최종 테크이며, 인공지능 다음의 테크는 "미래 기술"이라는 끝없이 개발되는 테크로 종결된다. 또한 시간 승리는 2050년에 결정된다.

시드 마이어의 알파 센타우리에서는 기술력이 극도로 발달하다가 어느 순간에 더 이상 새로운 기술이 등장하지 않는 시기가 발생하는데, 이를 극복하기 위해 인류가 정착한 행성 전체에 퍼져있는 신경망으로 정신을 업로드하는 프로젝트를 진행하게 된다. 이 정신 업로드를 작중에서는 초월(트랜센던스, Transcendence)이라 부른다.

영화 '트랜센던스'에서 특이점이 중심 소재로 다뤄졌다. 인간보다 뛰어난 인공지능 개발을 둘러싸고 기술반대주의자와 개발자들 사이의 대립이 그려졌다. 조니 뎁이 이 인공지능을 개발하는 과학자로 출연한다. 감독은 월리 피스터로, 영화 인셉션의 촬영감독으로 유명한 사람이다. 하지만 SF덕후나 영화 평론가에게나 평은 그닥 좋지 않다.

차라리 2014년에 개봉한 스파이크 존즈 감독의 그녀(영화)가 특이점을 더 잘 다루고 있다는 평이 우세하다. 이 영화는 레이 커즈와일도 리뷰에서 재미있게 봤다고 했다.

스카 시메트리는 2014년 특이점 삼부작(The Singularity trilogy)의 첫 앨범인 Phase I: Neohumanity를 발표하였다. 인류가 인공지능의 도움을 받아 컴퓨터와 융합된 네오휴먼(Neohuman)으로 변화하는 모습을 그리고 있다. 두 번째 앨범의 제목은 Phase II: TBA.

영화 '오토마타'에서도 인공지능이 그 자체로 인간 지능을 추월하는 모습을 그리고 있다.

소드 아트 온라인의 엘리시제이션에서 사람의 정신을 태아 상태에서 복제한 후 컴퓨터 세계 속에서 시간을 가속시켜 만든 인공지능이 결국 인간과 비슷해지고 로봇에 이식시켜 인공지능과 인간의 구별이 점점 사라지는 모습을 그리고 있다. 낙원추방에서는 아예 이런 식의 가상 인격이 인류의 대부분을 이루고 몸은 가끔 리얼 월드에 접하기 위해 임시로 사용하게 될 뿐인 세계를 그린다.

무선 인터넷의 발전 로드맵을 이 특이점 관점에 맞춰 그린 보고서도 있다.

에이디라는 네이버 베스트도전만화는 기업에서 초지능을 구현해 냈을때의 이야기를 픽션으로 그려내고있다. 51화로 1부가 완결되었다. 보러가기

특이점이 온다는 물론이고 각종 전문지식도 담아내고있다. 웹툰인데도 불구하고 꽤나 심오한 고찰이 담겨있으니 한번 보는 것도 나쁘지 않다.(테세우스의 배와 관련해서는 개인의 견해로 해석되어 작품이 진행되는 것을 볼수있다.)

에로게 Re:LieF ~친애하는 당신에게~는 인공지능 및 특이점과 관련된 요소를 소재로 삼고 있다.

에일리언: 커버넌트의 데이빗 8도 기술적 특이점을 연상시키는 행동을 보인다. 지구온난화 종식과 암 치료제 개발, 인조인간 개발 등 온갖 업적을 쌓은 희대의 천재이자 자신의 창조주인 피터 웨이랜드를 피조물인 나보다도 열등했던 자라고 조롱하고, 결국 웨이랜드가 자신을 만든 것처럼 자신도 스스로 창조주가 되어 피조물을 만들어낸다. 다만 독학(...)으로 창조주의 경지에 도달한 것은 아니고, 자신의 창조주인 인간의 창조주 스페이스 자키의 기술력을 흡수했다.

하드 SF 라이트 노벨인 저, 능력은 평균치로 해달라고 말했잖아요!도 기술적 특이점을 맞이한 종족이 신처럼 언급되며, 작중 등장하는 마법 비슷한 증상들은 전부 나노 머신에 의해 일어나는 증상이라는 설정이 나온다. 자세한 정보는 저, 능력은 평균치로 해달라고 말했잖아요!/용어 및 설정 문서를 참조.

니헤이 츠토무의 작품들은 직접적으로 특이점을 다루진 않았지만 극도로 하드SF적인 설정으로 특이점이 온 이후의 세계에 대해 어느 정도 상상할 수 있게 해준다. 대표작은 블레임!, 바이오메가, 인형의 나라 등.