인간이 그렇게 똑똑하다면 왜 그렇게 멍청한가 - 유발 하라리

https://www.youtube.com/watch?v=I4l1fr-t3ZE&t=4s

 
 
ㅈㄴ 중요한 내용을 쉽고 명료하게 설명해주고 있으니 읽어보시길
 

---

 
넥서스Nexus의 핵심 질문은 이것입니다.

' 인간이 그렇게 똑똑하다면,  왜 우리는 이토록 멍청한가? '

우리는 왜 스스로를 파괴하기 직전까지 온 것일까요?

인류는 달에 도달했고, 원자를 분할했으며, DNA를 해독해 냈습니다.
하지만 이 모든 지식과 지혜를 가지고도 우리는 생태계 붕괴와 제3차 세계대전의 위기에 처해 있습니다.
게다가 우리의 통제를 벗어나 인류를 노예로 만들거나 파괴할 수도 있는 극도로 강력한 기술인 AI를 개발하고 있죠.

이 책은 인류 역사 속에서 나타나는 지식 및 지혜와 자기 파괴적 성향 사이의 기묘한 역학 관계를 탐구합니다. 

이는 자주 제기되어 온 질문이며, 이에 대한 전통적인 신학적·신화적 답변은 '인간 본성에 결함이 있다'는 것이었습니다.
인간 본성에는 우리를 스스로 파괴하게 만드는 무언가가 있다는 주장입니다.

하지만 넥서스가 제시하는 답변은 다릅니다. 
문제는 우리의 본성에 있는 것이 아니라, 우리가 가진 '정보'에 있습니다. 

인간은 대체로 선량하고 현명하지만, 선량한 사람들에게 잘못된 정보를 주면 그들은 잘못된 결정을 내리게 됩니다.
(중략)

---

 

정보 ≠ 진실

정보가 진실이라는 생각은 착각이며, 정보는 진실이 아닙니다.

대부분의 정보는 진실이 아닙니다.
진실은 정보의 유형 중에서도 매우 희귀하고, 비용이 많이 들며, 값비싼 종류입니다.
진실을 원한다면 그것을 얻기 위해 많은 투자를 해야 합니다.

역사적인 예를 하나 들어보겠습니다. 이미지와 초상화에 대해 생각해 봅시다. 
세상에서 가장 흔한 초상화는 무엇일까요? 세계에서 가장 유명한 얼굴은 누구일까요? 

바로 예수입니다. 
지난 2,000년 동안 사람들은 수십억 개의 예수 초상화를 만들었습니다. 
그것들은 수많은 교회와 대성당, 개인 주택 등에 걸려 있습니다. 하지만 그중 단 한 장도 예수의 실제 모습을 묘사한 것은 없습니다.

그것들은 100%, 전부 허구의 묘사입니다. 왜냐하면 우리는 예수가 어떻게 생겼는지 전혀 모르기 때문입니다. 
그가 살아생전에 그려진 초상화는 단 하나도 없습니다. 
성경에도 그가 뚱뚱했는지 말랐는지, 키가 큰지 작은지, 검은 머리인지 금발인지 알려주는 문장이 단 하나도 없습니다. 그래서 이 모든 이미지는 허구입니다.

허구의 정보를 만드는 것은 매우 쉽습니다. 아무것도 조사할 필요가 없기 때문입니다. 

증거도 필요 없습니다. 그저 무언가를 떠올려서 그리기만 하면 됩니다. 
만약 여러분이 어떤 사람이나 경제, 전쟁 등 무엇이든 '진실된' 그림을 그리고 싶다면, 그것을 정확하게 파악하기 위해 연구하는 데 막대한 시간과 노력, 돈을 투자해야 합니다.

우리가 그저 세상을 정보로 범람시키고 진실이 떠오르기를 기대한다면, 진실은 떠오르지 않고 가라앉을 것입니다.

우리가 진실에 투자하는 기관들을 건설하려는 노력을 기울이지 않는 한,
세상을 정보로 더 많이 채울수록 우리는 허구와 환상, 망상, 그리고 쓰레기 정보에 침수될 것입니다

대부분의 정보는 진실이 아니며, 정보가 하려는 일은 진실을 퍼뜨리는 것이 아니라 '질서'를 만들어 '권력'을 얻는 것입니다.

수백만 명의 사람들이 무언가에 협력하게 만들고 싶다면, 가장 쉬운 방법은 어떤 허구적인 신화나 이데올로기를 만들고 많은 사람이 그것을 믿도록 설득하는 것입니다.

그리고 그 방법은 그들이 좋아하는 신화나 이데올로기에 관한 더 많은 이야기와 이미지의 정보를 융단폭격하는 것입니다. 
이것이 권력을 얻는 방법입니다. 

(중략)

---

 

20세기에 전체주의 시스템은 민주주의 시스템보다 효율이 떨어졌습니다.

모든 정보가 단 한 곳, 즉 모스크바로만 흘러갔을 때 그곳의 사람들은 쏟아지는 정보의 홍수에 압도당했고, 올바른 결정을 내릴 수 없었으며 실수를 바로잡을 메커니즘도 없었습니다. 결국 그 시스템은 붕괴했습니다.
의사 결정자가 인간이었을 때는 분산형 정보 시스템이 훨씬 더 나았습니다.

하지만 AI는 21세기에 전체주의 시스템에 우위를 제공할 수 있습니다. 왜일까요? 

AI는 그 어떤 공산주의 관료보다 훨씬 빠르고 효율적으로 엄청난 양의 정보를 처리할 수 있기 때문입니다. 

인간에게 너무 많은 정보를 쏟아부으면 인간은 무너지지만, AI에게 정보를 쏟아부으면 AI는 더 똑똑해집니다.

따라서 이것이 결정론적이거나 확실한 것은 아니지만, AI 때문에 21세기에 전체주의 시스템이 더 나아질(강력해질) 시나리오가 존재합니다. 
다만 전체주의 시스템의 또 다른 문제인 '자기 수정 기제가 없다'는 점은 AI 시대에도 여전히 유효합니다. 이는 상황을 훨씬 더 위험하게 만듭니다.

전체주의 시스템이 AI에 의존하는데 그 AI가 실수를 한다고 가정해 봅시다.
 AI는 완벽하지 않으며 신이 아닙니다. 실수를 합니다. 모든 권력을 전체주의 AI에게 넘겨주었는데 그 실수를 바로잡을 방법이 없다면, 이는 인류 문명 전체에 재앙이 될 수 있습니다.

또한 인간 독재자과 결합할때 AI는 특히 큰 문제가 될 것입니다.
독재 국가에서 AI가 권력을 장악하는 것은 민주주의에서 권력을 가로채는 것보다 훨씬 쉽기 때문입니다.

독재 국가의 모든 권력은 이미 단 한 명의 피해망상적인 지도자의 손에 집중되어 있습니다.
AI는 국가의 권력을 장악하기 위해 오직 이 한 개인을 조종하는 법만 배우면 됩니다.
AI가 권력을 장악할 위험은 민주주의보다 독재 국가에서 훨씬 큽니다.

민주주의 사회에서는 다른 방식의 문제가 일어날 것입니다.
민주주의는 '대화'입니다. 민주주의의 진정한 의미는 수많은 사람이 시대의 현안에 대해 대화하는 것입니다.

그런데 큰 무리의 사람들이 원으로 서서 대화를 나누고 있는데, 갑자기 로봇 무리가 원 안으로 들어와 매우 크고 감정적이며 설득력 있게 말을 하기 시작한다고 상상해 보십시오. 
그리고 여러분은 누가 인간이고 누가 로봇인지 구분할 수 없습니다. 

이것이 우리가 지금 겪고 있는 상황입니다.
알고리즘이 대화를 하이재킹하고 있기 때문에 전 세계적으로 민주적인 대화가 무너지고 있는 것은 우연이 아닙니다.

우리는 역사상 가장 정교한 정보 기술을 가지고 있지만, 서로 이성적인 대화를 나눌 수 있는 능력을 잃어가고 있습니다. 

(중략)

진실을 확보하고 싶다면, 진실을 찾는 데 많은 노력을 기울이는 학술 연구 기관이나 신문사 같은 제도적 장치에 투자하는 것만이 유일한 방법입니다. 

그저 정보의 홍수가 진실을 가져다줄 것이라 기대한다면 그런 일은 일어나지 않을 것입니다.

오히려 가짜와 쓰레기 정보의 대홍수가 희귀하고 값비싼 정보인 진실을 압도해 버릴 것입니다.

---

 
개인들에게 드리는 최고의 추천은 사람들이 다이어트를 하는 것과 같은 방식으로 '정보 다이어트'를 하는 것입니다.

정보는 마음의 음식입니다. 우리는 음식을 너무 많이 먹거나 정크푸드를 너무 많이 먹는 것이 몸에 좋지 않다는 것을 배웠습니다. 그래서 많은 사람이 몸에 무엇을 먹일지 매우 주의를 기울입니다.

우리는 마음에도 무엇을 먹일지 똑같이 주의를 기울여야 합니다. 더 많은 정보가 항상 여러분에게 좋은 것은 아닙니다.

때때로 '정보 단식'의 시간을 갖는 것이 실제로 좋습니다.
더 이상 아무것도 넣지 않고, 그저 소화하고 독소를 제거하는 시간 말입니다.

마찬가지로 우리가 마음에 공급하는 정보의 질을 살펴야 합니다. 
만약 우리가 탐욕과 증오, 공포로 가득 찬 쓰레기 정보를 마음에 먹인다면, 마음은 병들게 될 것입니다.
 

---

 
과자 절식을 시작하면서 동시에 웹서핑량도 줄여봤는데 
아니 정확히 말하면 정보의 취사선택에 신경을 쓰고있음

왜냐면 스스로의 행동이 집어넣은 정보에 의해 무의식적으로 통제되는 경우가 너무 많다는 사실을 소오름과 함께 깨닫는 중이기 때문에

그리고 자극적인 정보일수록 중요도와는 무관하게 명상할 때 겁나 떠오름
머릿 속 한 구석탱이에 백그라운드 프로그램이 잔잔바리로 돌아가며 정신의 리소스를 잡아먹는 느낌임


 
https://digthehole.tistory.com/431165

#디지털 저항