자기 수정을 통한 개선은 인류역사보다 훨씬 오래된 원리다. 그것은 자연의 기본 원리요. 유기체의 근본 바탕이다. 최초의 유기체는 어떤 오류도 범하지 않는 천재나 신에 의해 창조되지 않았으며 복잡한 시행착오 과정을 통해 출연했다. 45억 년에 걸쳐 점점 복잡해진 돌연변이 메커니즘과 자기 수정 장치들이 나무, 공룡, 정글 그리고 마침내 인간을 탄생시켰다. 이제 우리는 유기체가 아닌 이질적인 종류의 지능을 불러냈고 이 지능은 우리의 통제력을 벗어나 우리 종만 아니라 수많은 다른 생명체들까지 위험에 빠뜨릴지도 모른다. 앞으로 우리가 어떤 결정을 내리느냐에 따라 낯선 지능을 소환한 것이 치명적인 실수가 될지 아니면 생명 진화에 희망찬 새 장을 여는 시작이 될지 판가름 날 것이다.
넥서스 ( 유발 하라리 Yuval Noah Harari) 책은 정보와 진실, 신화와 권력의 관계를 통해 각 사회가 정보를 어떻게 활용해 왔는지를 살피며, 정보 통제가 가져온 정치적, 사회적 영향을 집중적으로 분석합니다. 특히 '넥서스'는 정보와 인간의 심리적 취약성을 조명하면서, 정보 네트워크가 자유를 보장하기도 하고, 반대로 통제를 강화하기도 한다고 주장합니다. 책의 후반부는 인공지능이 어떻게 정보를 통해 인간의 인지와 결정을 조종할 가능성이 있는지에 대해 경고하며, AI의 확산으로 인한 인간 사회의 위기를 다룹니다
이 책 두 번째 리뷰입니다
위혐의 규모를 고려하면 모든 인간이 관심을 가져야 할 문제 AI
모두가 AI전문가가 될 수 없지만 AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을 우리 모두 명심해야 한다. 이제껏 인간이 만든 발명품들이 인간에게 힘을 실어준 이유는 새로운 도구가 아무리 강력해도 그것이 어디에 있을지 결정하는 것은 항상 우리 몫이었기 때문이다. 칼과 폭탄은 누구를 죽일지 스스로 결정하지 않는다. 반면 AI는 스스로 정보를 처리할 수 있고 따라서 인간을 대신하여 결정을 내릴 수 있다. AI는 도구가 아니라 행위자다 또한 AI는 정보를 자유자재로 활용하여 스스로 음악부터 의료에 이르는 다양한 분야에서 새로운 아이디어를 생성할 수 있다. 축음기는 음악을 재생했고, 현미경은 세포의 비밀을 보여주었지만 축음기가 새로운 교향곡을 작곡하거나 현미경이 신약을 합성할 수는 없었다. AI 이미 스스로 예술을 창조하고 과학적 발견을 할 수 있다. 그리고 몇십 년 내에 AI는 유전코드를 작성하거나 아니면 비유기적 존재를 살아 움직이게 하는 비유기적 코드를 작성함으로써 새로운 생명 형태를 창조할 수 있을 것이다
AI혁명의 초기 단계인 지금 이 순간에도 컴퓨터는 이미 우리에게 대출을 해줄지, 우리를 직장에 고용할지, 교도소에 보낼지와 같은 결정을 내린다. 이런 추세는 앞으로 더 강화되고 가속화될 것이다. 그러면 우리는 자신의 삶을 이해하기가 더 욱 어려워질 것이다. 과연 컴퓨터 알고리즘이 지혜로운 결정을 내리고 더 나은 세상을 만들 것이라고 믿을 수 있을까? 그것은 빗자루에 주문을 걸면 물을 길어올 것이라는 믿음보다 훨씬 더 위험한 도박이다. 이 도박에 우리가 거는 것은 단지 인간의 삶만이 아니다. AI는 우리 종의 역사뿐만이 아니라 모든 생명형태에 진화 경로를 바꿀 가능성이 있다.
우리는 지구상에서 가장 영리한 동물인 동시에 가장 어리석은 동물이다. 우리는 핵미사일과 초지능 알고리즘을 만들어 낼 수 있을 정도로 영리하다. 하지만 통제할 수 있는지 확실하지 않고 통제하지 못하면 우리를 파괴할 수 있는 것들을 덮어놓고 생산할 정도로 어리석다. 우린 왜 이렇게 할까? 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 걸까? 그것은 인간 본성 탓이 아니라 정보 네트워크 탓이다. 진실보다 질서를 우선시한 탓에 인간의 정보네트워크들은 엄청난 힘을 만들어 냈지만 지혜는 거의 만들어 내지 못했다. 예를 들어 나치 독일은 고도로 효율적인 군사기계를 만들어냈지만 그것을 비상식적인 신화를 위해 사용했다. 그 결과 수천만 명이 죽는 엄청난 규모의 비극이 일어났으며 결국 나치 독일도 패망했다. 물론 힘 자체가 나쁜 건 아니다. 지혜롭게 사용하면 힘은 이로운 도구가 될 수 있다. 현대 국가는 가뭄이나 폭우에 직면할 때 이런 자연재해로 인해 많은 국민이 굶주림을 막을 수 있다. 하지만 현대 국가가 인간이 만든 환상에 사로잡히면 1930년 초 소련에서 그랬던 것처럼 대규모 인위적 기근을 일으킬 수 있다. 따라서 네트워크가 막강해질수록 네트워크의 자정장치가 중요해진다.
티베리우스나 네로같이 철기시대 제국에서는 통치자들이 편집증이나 정신 이상에 사로잡혀 있어도 파국으로 치닫는 일은 좀처럼 없었다 로마 제국은 미치광이 황제들이 적지 않게 있었음에도 수세기를 버텼고 결국 무너졌을 때도 인류 문명의 종말을 부르지는 않았다. 하지만 실리콘 시대에 초 강대국에서 자정장치가 없거나 있다 해도 약하다면 우리 족은 물론 수많은 다른 생명체의 생존까지 위태로워질 수 있다. AI시대 전 인류는 카프리섬의 별장에 고립된 테베리우스 와 비슷한 상황에 있다. 우리는 막대한 힘을 휘두르고 귀한 사치를 누리지만 우리 손으로 만든 창조물에 쉽게 조정당한다. 게다가 우리가 위험을 알아차릴 때는 너무 늦을지도 모른다. 안타깝게도 우리 인류가 오랫동안 살아가려면 자정장치가 중요함에도 불구하고 정치인들은 자정장치를 약화하려는 유혹에 쉽게 빠진다. 자정장치를 무력화하는 것은 여러 부정적인 결과가 따르는 일이지만 그럼에도 불구하고 정치적으로는 유리한 전략이 될 수 있다.
자정장치가 무너지면 21세기 스탈린의 손에 막강한 힘을 쥐어 줄 수 있다. AI로 강화된 전체주의 정권은 인류 문명을 파괴하기 전에 스스로 망할 것이라고 생각한다면 무모한 것이다 설령 호모 사피엔스가 자멸한다 해도 우주는 평소처럼 계속 돌아갈 것이다. 지상의 진화가 고도로 지능적인 유인원들의 문명을 낳기까지 40억 년이 걸렸다. 우리가 사라지고 고도로 지능적인 쥐들의 문명이 생기기까지 또다시 수억 년이 걸린다 해도 그런 일은 일어날 것이다. 우주는 인내심이 있다
하지만 이보다 더 나쁜 시나리오가 있다. 현재 우리가 아는 한 지구상에 살고 있는 유인원 쥐, 여타 유기체들은 우주 전체에서 유일하게 의식이 있는 존재일지도 모른다. 그런데 우리가 의식은 없지만 매우 강력한 형태의 지능을 창조했다. 이 지능을 잘못 다룰 경우 그것은 지구에서의 인간 지배만 끝나는 게 아니라 의식의 빛 자체를 꺼뜨려 우주를 완전히 암흑으로 만들지도 모른다. 우리는 이것을 막을 책임이 있다.
