인간이 없는 미래??
티베리우스나 네로같이 철기시대 제국에서는
통치자들이 편집증이나 정신 이상에 사로잡혀 있어도
파국으로 치닫는 일은 좀처럼 없었다
로마 제국은 미치광이 황제들이
적지 않게 있었음에도 수세기를 버텼고,
결국 무너졌을 때도 인류 문명의 종말을 부르지는 않았다.
우리는 지금 막대한 힘을 휘두르고 귀한 사치를 누리지만
우리 손으로 만든 창조물에 쉽게 조정당한다.
게다가 우리가 위험을 알아차릴 때는 너무 늦을지도 모른다.
설령 호모 사피엔스가 자멸한다 해도
우주는 평소처럼 계속 돌아갈 것이다
지상의 진화가 고도로 지능적인
유인원들의 문명을 낳기까지 40억 년이 걸렸다.
우리가 사라지고 고도로 지능적인 쥐들의 문명이 생기기까지
또다시 수억 년이 걸린다 해도 그런 일은 일어날 것이다.
우주는 인내심이 있다.
하지만 이보다 더 나쁜 시나리오가 있다.
우리가 의식은 없지만 매우 강력한 형태의 지능 AI을 창조했다.
이 지능을 잘못 다룰 경우 그것은 지구에서의
인간 지배만 끝나는 게 아니라 의식의 빛 자체를
꺼뜨려 우주를 완전히 암흑으로 만들지도 모른다.
--넥서스 중에서--
A Future Without Humans?
In Iron Age empires like those of Tiberius or Nero,
even if rulers were plagued by paranoia or madness,
it rarely led to total catastrophe.
The Roman Empire, despite having its share of mad emperors,
endured for centuries,
and when it finally fell, it didn’t herald the end of human civilization.
Today, we wield immense power and enjoy luxuries,
yet find ourselves easily manipulated by our own creations.
By the time we recognize the risks, it may already be too late.
Even if Homo sapiens were to self-destruct,
the universe would continue as usual.
Evolution on Earth took four billion years to produce an intelligent ape civilization.
Even if it takes millions more years for highly intelligent rats
to create a civilization in our place, such an event is not impossible.
The universe is patient. But there’s an even darker scenario:
we might create a form of intelligence—an AI—that, though powerful,
lacks consciousness.
If mishandled, this intelligence could not only end human dominance on Earth
but extinguish the very light of consciousness, casting the universe into complete darkness.
A Future Without Humans? --From Nexus--
The author is an Israeli historian widely recognized in contemporary humanities and history. Harari is especially well-known for his insightful explorations of changes in humanity, technology, politics, economics, and religion. His major works include 'Sapiens', 'Homo Deus', and '21 Lessons for the 21st Century', which tackle pressing issues of modern society and offer predictions about the future. In his book 'Nexus', Harari examines the impact of humanity’s information networks on society and civilization, covering the trajectory of human history from prehistoric times to the age of artificial intelligence. He delves into the relationship between information, truth, myths, and power, analyzing how societies have historically managed information and the political and social implications of its control. 'Nexus' highlights how information networks both safeguard freedom and reinforce control by emphasizing humanity's psychological vulnerabilities. In the book's later chapters, Harari warns about AI's potential to manipulate human cognition and decision-making through information, discussing the societal crises that may arise as AI becomes more pervasive.
