- 유발 하라리는 인류 위기의 원인이 인간의 본성이 아닌 '잘못된 정보'에 있으며, AI가 인류 역사상 최초로 스토리를 생산하는 비인간 주체가 되었다고 진단합니다.
- 24시간 감시가 가능한 AI의 비유기적 네트워크는 허구적 정보를 무한히 양산하며, 자기 수정 메커니즘이 부족해 전체주의적 위협을 가중시킬 수 있다고 경고합니다.
- 하지만 AI를 맹목적으로 배제하기보다는, 기득권의 진실 독점을 경계하고 AI를 생산적 대화의 주체로 활용하는 비판적 균형 감각이 필요합니다.
우리는 원자를 쪼갤 수 있을 정도로 똑똑해졌지만, 생태계 붕괴나 통제를 벗어난 AI의 발전으로 스스로를 파괴할지도 모르는 상황에 처해 있습니다. 과연 인간은 똑똑한 걸까요, 아니면 멍청한 걸까요? 유발 하라리는 신작 『넥서스』를 통해 이 역설에 대한 흥미로운 진단을 내놓습니다. 인류의 위기는 결코 우리의 본성 때문이 아니라, 우리를 둘러싼 '정보'가 잘못되었기 때문이라는 것입니다. 특히 AI라는 새로운 주체의 등장은 이 정보 생태계를 완전히 뒤바꾸고 있습니다.
1. 인류 역사상 최초의 비인간 스토리텔러
석기 시대부터 21세기에 이르기까지, 수많은 사람들을 협력하게 만든 핵심 원동력은 사실의 나열이 아닌 이데올로기나 종교 같은 '스토리텔링'이었습니다.
[출처] 충코의 철학 Chungco 제공 영상 · 00:30
그런데 인류 역사상 대부분의 기간 동안 스토리를 만들 권한을 가진 것은 오직 인간뿐이었습니다. 하지만 2016년 알파고가 인간과 완전히 다른 방식으로 바둑을 두며 충격을 안겼듯, 이제는 AI라는 새로운 주체가 스토리를 써 내려가기 시작했습니다. 앞으로 금융, 예술, 정치 등 수많은 영역에서 인간이 아닌 존재가 정보를 생산하고 결정을 내리는 시대가 펼쳐질 것입니다.
2. 휴식도, 프라이버시도 없는 '비유기적 네트워크'
새로운 정보 기술이 등장할 때마다 세상의 권력 구조는 뒤바뀌어 왔습니다. 과거의 모든 정보 기술은 인간의 뇌에 기초한 '유기적 네트워크'였습니다.
[출처] 충코의 철학 Chungco 제공 영상 · 04:47
유기적 네트워크에는 낮과 밤이라는 사이클이 있고, 휴식이 있으며, 아무리 강력한 감시 사회라도 모두를 24시간 감시할 수 없는 사적인 영역이 존재했습니다. 반면 AI에 기초한 '비유기적 네트워크'는 휴식도 필요 없고 프라이버시도 완전히 없앨 수 있습니다. 24시간 쉬지 않고 돌아가는 이 시스템 속에서, 우리는 AI가 왜 대출을 거부했는지, 왜 특정한 군사적 결정을 내렸는지 그 방대한 정보 처리 과정을 점점 더 이해하기 어려워질 것입니다.
3. 정보의 홍수 속, 가라앉는 '진실'
정보화 시대의 가장 큰 오해는 '정보가 곧 진실'이라는 맹목적인 믿음입니다. 사실 대부분의 정보는 진실이 아닙니다.
[출처] 충코의 철학 Chungco 제공 영상 · 07:55
허구적인 정보를 생산하는 것은 아무런 증거도, 투자도 필요하지 않아 매우 쉽습니다. 반면 진실은 매우 희귀하고 비쌉니다. 막대한 노력이 필요하죠. 따라서 진실에 투자하는 건강한 기관이 존재하지 않는다면, 압도적으로 쏟아지는 허구의 홍수 속에서 진실은 밑으로 가라앉을 수밖에 없습니다.
4. 하라리의 경고: 자기 수정 메커니즘의 붕괴
하라리는 민주주의나 과학 같은 건강한 시스템은 스스로 실수를 가려내고 고치는 '자기 수정 메커니즘'을 갖추고 있다고 봅니다. 반면 전체주의는 이 메커니즘이 결여되어 있죠.
그는 AI가 엄청난 속도로 정보를 처리하면서 오히려 전체주의 시스템을 유리하게 만들지도 모른다고 경고합니다. 만약 전체주의적 권력을 가진 AI가 실수를 저지르고도 이를 수정할 능력이 없다면 인류에게는 어마어마한 위협이 될 것입니다. 그렇기에 하라리는 민주주의적 대화에서 허구를 말하는 AI 봇들을 완전히 배제하고, 개인들은 정보의 과식을 막는 '정보 다이어트'를 해야 한다고 주장합니다.
5. 충코의 시선: 과연 AI를 배제하는 것만이 정답일까?
하라리가 분석한 정보 네트워크의 패러다임 변화와 감시 사회의 위험성에는 깊이 동의합니다. 하지만 저는 한편으로는 그의 주장에 몇 가지 꺼림칙한 의문이 들기도 합니다.
- 첫째, AI는 정말 자기 수정 능력이 없을까요? 지금도 자신의 코딩 오류를 스스로 수정하는 AI가 존재합니다. 단지 오류를 감지하는 '기준'이 인간의 가치관과 다를 뿐입니다. A가 아니라 B일 뿐인데, 이를 두고 AI나 전체주의는 수정 능력이 아예 없다고 단정하는 것은 상황을 공정하게 묘사하는 그림이 아닙니다.
- 둘째, 진실을 추구하는 기관을 명확히 나눌 수 있을까요? 하라리는 학문 연구 기관을 진실의 보루로 꼽았지만, 시대의 강력한 이데올로기나 기득권에 봉사하는 학문적 권위주의도 분명 존재합니다. 특정 기관만을 '진실'로 이분법화하는 것은 오히려 기존의 진실을 고여버리게 만들 위험이 있습니다.
- 셋째, AI 봇을 대화에서 완전히 배제해야 할까요? 무조건적인 배제는 비현실적입니다. 대화를 망치는 인간이 있듯 대화를 돕는 AI도 존재할 수 있습니다. 오히려 시각을 열어두고 AI를 어떻게 생산적인 방향으로 활용할지 고민하는 것이 더 건전한 방안일 겁니다.
오늘 영상에서는 AI 시대의 정보에 대한 유발 하라리의 통찰과 그 이면을 이야기해 봤는데요. 과연 우리는 쌓여가는 정보 속에서 진실이 파묻히는 디스토피아를 맞이하게 될까요? 어쩌면 우리가 비판적 이성을 잃지 않는다면 조금은 다른 미래가 우리를 기다리고 있을지도 모릅니다. 여러분은 이에 대해 어떻게 생각하시나요?
FAQ
유발 하라리는 인류가 스스로를 파괴할 위기에 처한 이유를 무엇으로 보나요?
하라리는 인간의 본성에 문제가 있는 것이 아니라, 사람들을 협력하게 만드는 핵심 도구인 '정보와 스토리텔링'이 잘못되었기 때문이라고 주장합니다.
AI 네트워크가 기존의 정보 기술과 다른 가장 큰 특징은 무엇인가요?
과거의 유기적 네트워크와 달리, AI는 휴식이나 프라이버시 없이 24시간 가동되며 인간이 그 과정을 완전히 이해하기 힘든 결정을 내리는 '비유기적 네트워크'라는 점입니다.
정보가 많아질수록 오히려 진실이 가려지는 이유는 무엇인가요?
허구적 정보를 만드는 데는 증거나 비용이 들지 않지만, 진실을 규명하는 데는 막대한 시간과 투자가 필요하기 때문에 압도적인 정보의 홍수 속에서 진실은 쉽게 가라앉게 됩니다.
충코는 하라리의 경고에 대해 어떤 반론을 제기하나요?
AI도 나름의 기준에 따라 오류를 고치는 자기 수정 메커니즘을 가지고 있으며, 특정 학문 기관만 진실을 추구한다고 규정하는 것은 기득권의 논리를 옹호할 위험이 있다고 비판합니다.
