역사의 진짜 주인공은 호모 사피엔스가 아니라 언제나 정보였다. 과학자들은 역사 위에 생물학, 정치, 경제도 점점 정보흐름의 관점에서 이해하고 있다. 국가, 시장은 모두 정보 네트워크로 환경에서 테이터를 흡수하여 결정을 내리고 그 데이터를 다시 내 보낸다. 우리는 더 나은 정보 기술이 건강, 행복, 힘을 가져다줄 거라고 기대하지만, 실제적으로는 우리의 힘을 빼앗고 우리의 육체적 , 정신적 건강을 파괴할지도 모른다고 경고한다.
넥서스 ( 유발 하라리 Yuval Noah Harari) 저자는 이스라엘 출신의 역사학자로, 현대 인문학과 역사학 분야에서 널리 알려진 분입니다. 하라리는 특히 인류와 기술, 정치, 경제, 종교 등의 변화를 통찰력 있게 풀어내는 것으로 유명합니다. 주요 저서로는 《사피엔스》, 《호모 데우스》, 《21세기를 위한 21가지 제언》 등이 있으며, 이들은 현대 사회의 주요 문제와 미래에 대한 예측을 다루고 있습니다. 그의 저서는 전 세계적으로 베스트셀러가 되었고 여러 언어로 번역되었습니다. 책'넥서스'는 인류의 정보 네트워크가 사회와 문명에 미친 영향을 탐구하며, 선사시대부터 현대의 인공지능 시대에 이르는 인류사의 흐름을 다루고 있습니다.
통제할 수 없는 힘을 함부로 불러내서는 안 된다.
실제로 우리가 강력한 무언가를 만들어 의도하지 않는 결과를 초래하는 행동패턴을 보이기 시작한 것은 증기기관이나 AI가 생겼을 때가 아니라 종교가 생겼을 때였다. 예언자들과 신학자들은 강력한 영혼들을 소환했지만 이 영혼들은 가져다준다던 사랑과 기쁨 대신 때때로 세상을 피로 물들였다. 인간은 막대한 힘을 얻고 나서 교만과 탐욕에 빠진다. 따라서 개인의 심리적 결함이 힘을 남용하게 만든다는 것이다. 이 단순한 분석은 인간의 힘이 개인의 노력만으로 얻어진 결과가 아니라는 점을 경고한다. 힘은 항상 많은 사람들이 협력할 때 나온다. 따라서 인간이 힘을 남용하는 원인은 개인의 심리에 있지 않다. 인간은 탐욕스럽고 교만하고 잔인하지만, 동시에 사랑, 연민, 겸손, 기쁨도 느낄 수 있다. 통제할 수 없는 힘을 불러내는 인간의 경향은 개인심리에서 나오는 게 아니라 대규모로 협력하는 우리 종의 독특한 특징에서 비롯한다. 이 책의 핵심논지는 인간은 대규모 협력네트워크를 구축함으로써 막대한 힘을 얻지만 바로 네트워크를 구축하는 그 방식 때문에 애초의 힘을 지혜롭게 사용하기가 쉽지 않다는 것이다. 즉 우리의 문제는 네트워크 문제다. 더 구체적으로는 정보 문제다.
인간 개개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도 대규모 네트워크는 허구의 환상에 의존하여 사회구성원들을 묶고 질서를 유지한다. 나치즘과 스탈린주의는 이렇게 탄생한 것이다. 두 체제는 이례적인 망상으로 결속된 이례적으로 강력한 네트워크였다.
순진한 정보관에 따르면 가치관의 차이는 실제로 정보부족이나 고의적인 허위정보 때문에 생긴다. 다시 말해 인종차별주의자들은 생물학과 역사에 대한 사실들을 잘 모르는 정보가 어두운 사람들인 것이다. 그들은 인종이 유효한 생물학적 범주라고 생각하며 가짜 음로론에 세뇌되어 있다. 그러므로 인종차별주의는 사람에게 더 많은 생물학적 역사적 사실을 제공하면 해결된다. 시간이 걸릴 수 있지만 자유로운 정보 시장에서는 결국 진실이 승리할 것이다. 물론 순진한 정보관은 이보다 복잡하고 신중하지만 이 관점의 핵심 신조는 정보는 본질적으로 좋은 것이라서 많이 가질수록 좋다는 것이다. 충분한 정보와 시간이 주어지면 우리는 바이러스 감염부터 인종차별적 편향에 이르기까지 다양한 사안에 대한 진실을 밝힐 수 있으며 그 결과 힘뿐만 아니라 그 힘을 잘 사용하기 위해 필요한 지혜도 생긴다.
AI 위협의 두 가지 시나리오
- AI의 힘은 기존의 인간 갈등을 증폭하여 인류를 분열시킬 가능성이 있다. 20세기에 철의 장막이 냉전 시대 경재 강국들을 분열시켰듯이 21세기에는 가시철조망대신 실리콘 칩과 컴퓨터 코드로 만들어진 실리콘 장막이 새로운 세계 갈등을 일으켜 경재 강국들을 분열시킬지도 모른다. AI군비경쟁으로 점점 더 파괴적인 무기가 생산될 테니 작은 스파크 만이어도 파멸적인 화재로 번질 수 있을 것이다.
- 실리콘 장막은 인간을 한집단과 다른 집단으로 분리하는 것이 아니라, 모든 인간을 인간의 새로운 지배자 AI와 분리할지도 모른다. 우리가 어디에 살든 알고리즘으로 짜진 거미줄 속에 갇히게 될 것이다. 이 알고리즘들이 우리의 삶을 관리하고 우리의 정치와 문화를 재편하며 심지어 우리의 몸과 마음까지 재설계하는 동안 우리는 우리를 통제하는 힘을 멈추기는커녕 더 이상 이해할 수 없게 될 것이다.
만약 21세 게의 전체주의네트워크가 세계 정복에 성공한다면 그때 전체주의를 운영하는 주체는 인간독재자가 아니라 비 인간 지도자가 될 것이다.
이 책 한번 더 리뷰 하겠습니다
