유발 하라리_[넥서스]리뷰. 10장. 전체주의: 모든 권력을 알고리즘에게로?

모처럼 많은 비가 내리는 저녁이다.
 
아파트에서는 들리지 않는 빗소리라,
이 순간을 놓치지 않으려고 문들을 조금씩 열었다. 
 
빗소리를 들으며,,, 넥서스를 읽다니;; 이런..^^
 

---

 

■기억에 남는 부분과 느낌들
 
1.
 

모든 정보와 권력을 한 곳에 집중하려는 시도는 20세기 전체주의 정권에서는 아킬레스건이었지만 AI시대에는 결정적인 이점이 될 수 있다.

 

유전학을 예로 들어서, 뉴질랜드 인구가 500만명인데 개인정보 보호 규정으로 유전자 기록과 의료 기록에 접근이 제한적이다. 반면 중국은 인구가 14억명이며, 개인정보 보호 규정이 비교적 느슨하다. 누가 알고리즘을 개발할 가능성이 더 높겠는가? 브라질이 유전자 알고리즘을 구매하려면 뉴질랜드보다 더 정확한 중국의 알고리즘을 선택할 것이라는 내용이 나왔다. 

 
(순간 움찔했다. 전체주의 국가 중국이 AI를 이용해 데이터를 축적하기가 매우 유리하기에, 인공지능 분야에서 엄청나게 빠르게 발전해나갈 수 있겠구나. 한 번도 생각해보지 못했다.)
 
 
2. 

전체주의 국가의 국민은 질문하면 곤란에 처한다는 생각을 가지고 자란다. 

 
(우리나라 사람들이 질문을 잘 하지 않았던것도, 1900년도 이후 일본제국주의 시절과, 군사독재정권을 지나오면서였는지도 모르겠다는 생각이 든다. )
 
3. 

민주주의의 장점은 이런 악당 알고리즘에 유연하게 대처할 수 있다는 것이다. 민주주의 국가는 표현의 자유를 중요하게 여기므로 감추는 것이 훨씬 적고, 반민주적인 발언에도 비교적 높은 수준의 관용을 보여왔다. 반정부 메시지를 퍼뜨리는 봇들은, 숨기는 것이 많고 비판은 전혀 허용하지 않는 전체주의 정권에 훨씬 위협적일 것이다. 

 
 
 
 
(무언가, 원칙대로 투명하게 판단하는 알고리즘이 맑눈광^^:;?같다는 생각을 했다. 눈치없이 맞는 말을 따박따박하고, 상하관계나 전후사정, 맥락 고려없이 원칙대로 할말을 딱딱하는. 그래서 능력자 신입사원을 고용했는데, 상사들이 이 아이가 어떤말을 할지 몰라 좀 긴장되는 그런 상황^^ 틀린 말도 아니라 뭐라 할수도 없는데, 기존 사회의 질서를 파괴해가는. 
 
이것이 전체주의 국가적으로 볼때는, 기업의 문화가 파괴될 가능성이 있는 것이고
민주주의 국가적으로 볼때는, 기업의 문화가 조금씩 바뀌어가는 가능성이 있는 것이다.) 
 
 
-
 
이제 마지막 한 장이 남았다.