유발 하라리_[넥서스] 리뷰. 4장. 오류-무오류성이라는 환상.

 

■4장 요약.
 
4장은 종교와 과학 두 가지를 비교한다.
종교는 자정장치가 없다. 기존의 정보에 오류가 있어서도 안되고, 반대의견이 나타나서도 안된다. 완전무결해야한다. 대신 장점은 기존 질서를 잘유지할 수 있다.
 
반대로 과학은 자정장치가 있다. 오류를 발견해내는 것이 그 본질이기 때문이다. 과학 기관이 자정 장치를 갖출 수 있는 이유는 사회 질서를 다른 기관(경찰, 군대, 정부 등)에서 유지하기 때문이다. 
 
정치적으로 보면 독재는 질서를 유지하지만 자정장치가 없고, 민주주의는 자정장치가 있지만 질서를 유지하기가 쉽지 않다. AI가 민주주의의 자정기능을 강화할지 약화할지가 앞으로 살펴봐야할 중요한 질문이다. 
 
■ 4장 핵심단어: 자정장치와 질서 
 
 
■ 밑줄 그은 문장
 

 

자정 장치는 진실 추구에 필수적이지만 질서 유지 측면에서는 손해이기 때문이다. 강력한 자정 장치는 의구심, 논쟁, 갈등, 분열을 일으키고 사회 질서를 유지하는 신화의 힘을 약화하는 경향이 있다... 물론 질서가 반드시 좋은 것만은 아니다.  아무리 억압적이어도 질서를 무너뜨린다고 세상이 좋아지는 것은 아니다. 오히려 혼란과 더 심한 억압이 발생할 수 있다. 정보 네트워크의 역사는 항상 진실과 질서 사이의 균형 맞추기였다. 질서를 위해 진실을 희생시키는 데는 대가가 따르듯이, 진실을 위해 질서를 희생시키는 데도 대가가 따른다.  

 
 
■ 느낀점
 
정보 네트워크의 역사는 항상 진실과 질서 사이의 균형 맞추기였다고 한다. 
정보는 힘이 있다.
그 정보는 질서를 유지하는데 사용되어 왔다.
정보를 더 쉽게 접할 수 있는 시대인 지금, 질서는 잘 유지되고 있는가?
그리고, 앞으로 AI가 더욱 발달할 시대에는 혼란스러워질까? 더 질서가 유지될까?
서론에서 말했듯이, AI가 발달할수록 우리는 오히려 더욱 통제가 쉬워지는 사회로 가고 있다.
조지오웰의 소설 <1984>에서 나온 빅브라더를 우리는 지금 스스로 만들어 가고 있는것 같다.
 
■ 다시 읽고 싶어진 책: 조지오웰의 1984.