슈퍼인텔리전스

 
빌게이츠, 엘런 머스크가 추천한 AI 도서.
2014년에 쓴 책인데.. 나는 왜 이제야 이 책을 읽었을까 안타깝다.
 
요약
결국 인공지능은 인간을 넘어설 것이다. 인공지능을 관리하고, 이를 긍정적으로 활용할 방안을 찾아야한다. 인공지능에는 '도덕성'의 틀이 필요하며, 집중되는 부와 권력의 편중을 극복할 방안 역시 필요하다.
 
초지능도래의 필연성
현재의 인공지능이 인간을 넘어설 수 없다고 미래에도 그럴 것이라 생각하는 것은 어리석다. 인공지능이 쥐와 침팬치의 지능까지 따라올 수 있다면, 혹은 동네 바보형만큼의 지능에 이르렀다면 아인슈타인의 지능을 얻는 것은 시간문제일 뿐이다. 방향과 속도가 그러하기 때문이다. 인간보다 낮은 수준에서 성장이 가로막힐 가능성은 낮다.

 
초지능으로 가는길
1. 인공지능
2. 두뇌 에뮬레이션
    :두뇌의 구조와 시냅스를 스캔해서 완벽한 복제품을 만드는 것
3.바이오칩
   : 생명체의 신경망에 칩을 삽입하여 뇌의 능력을 확장하는 것
4.집단지능
   : 다수의 의견교환을 통해 단일개체보다 우수한 지능을 얻는 것.
5.우생학
   : 유전자 선별을 통해 인간의 지능을 점진적으로 우상향 시키는 것.
 -초지능에 이르는 5가지 정도의 방법을 거론한다. 그중 1번 인공지능이 가장 유력하다고 말하는데.. 재미있는 것은 일론 머스크가 하고 있는 사업에 1번 x.ai, 테슬라 ,3번 뉴럴링크 ,4번 트위터가 있다는 것. 이 책이 머스크의 추천도서이기도 한데.. 이 책이 사업에 영향을 준 것 같기도 하다.

 
초지능의 통제
강화학습에서 보상룰에 따라 학습을 유도하듯이 인공지능이 반드시 지켜야 하는 도덕룰을 만들어서 이를 따르도록 하는 것. 범용적이며 일관적인 명제/목표 또는 명시적인 도덕룰이 있을 수 있다.
 
부와 권력의 불평등
이제까지 인류의 부의 확득수단이 노동 7, 자산 3의 비중이었다면, 초지능 시대에는 노동 0 자산 10(인공지능을 자산에 포함한다면)이 되어 극단적인 빈부격차, 그리고 인공지능을 독점하는 무리의 권력지배체계가 도래할 수 있다. 이에 대한 해법으로 독점적인 지배계급이 그외의 사람들에게 기본소득을 보장하라는 내용도 나온다.(샘 울트먼의 월드코인?)
 
인류의 미래
인간에게 이로운, 소수에게 독점되지 않는 인공지능을 어떻게 성취할 수 있을 것인가?. 이를 위해서는 인간의 도덕성의 확보가 선행되어야 하며, 선한 목적의 사람들에 의해 그 의도에 합당한 통제가능한 인공지능이 탄생되어야 한다. 그러나 '선한 인간'이라는 가정은 현실에서 성립하기 어렵기에, 초지능 시대의 전망은 밝지만은 않다. 또한 선한 인공지능을 만들 수 밖에 없는 통제를 적용한다고 하더라도  의도하지 않은 결과(인류에게 유해한 인공지능)가 발생할 위험은 사라지지 않는다.
 
말이 마차를 끌던 시절에 북미에는 2천만 마리의 말이 있었으나, 포드가 자동차를 상용화하며 말의 개체수는 200만마리까지 감소했다 한다. 그러나 이후 레저 등의 목적으로 말의 수요는 다시 증가하여 현재 북미의 말 개체수는 다시 천만마리에 이르렀다. 교통수단, 노동력으로서의 말의 가치는 사라졌지만, 새로운 활용처가 생긴 것이다. 또한 레저를 즐기는 인구의 증가는 마차를 끌던 시대보다 현대인이 좀 더 풍요롭게 살고있음을 보여주는 것이기도 하다. 초지능시대로의 진화가 극단적인 공멸을 부르지 않는다면, 인간 노동의 미래 모습은 이와 같지 않을까 하는 생각도 든다.