미국 전기차 업체 테슬라 창업자 일론 머스크, 영국 물리학자 스티븐 호킹, 마이크로소프트 창업자 빌 게이츠.
 
이 세 사람은 인공지능의 미래에 대해 우려를 표명해 언론의 주목을 받았다. 2014년 10월 머스크는 "인공지능 연구는 악마를 소환하는 것과 다름없다"고 말했고, 이어서 호킹은 "인공지능은 인류의 종말을 초래할 수도 있다"고 경고했으며, 2015년 1월 빌 게이츠는 "인공지능 기술은 훗날 인류에게 위협이 될 수 있다고 본다"면서 "초지능(superintelligence)에 대한 우려가 어마어마하게 커질 것"이라고 말했다.
 
머스크는 영국 옥스퍼드대 철학교수 닉 보스트롬의 저서 `초지능`을 읽고 그런 견해를 피력한 것으로 알려졌다. 2014년 7월 영국에서 출간된 `초지능`에서 보스트롬은 "지능의 거의 모든 영역에서 뛰어난 능력을 가진 사람을 현격하게 능가하는 존재"를 초지능이라고 정의했다.
  
보스트롬은 기계가 초지능이 되는 방법을 두 가지 제시했다. 하나는 인공일반지능(artificial general intelligence)이다. 오늘날 인공지능은 전문지식 추론이나 학습능력 같은 인간 지능의 특정 기능을 기계에 부여하는 수준에 머물고 있을 따름이다.

다시 말해 인간 지능의 모든 기능을 한꺼번에 기계로 수행하는 기술, 곧 인공일반지능은 걸음마도 떼지 못한 정도의 수준이다. 2006년 인공지능이 학문으로 발족한 지 50년 되는 해에 개최된 회의(AI@50)에서 인공지능 전문가를 대상으로 2056년, 곧 인공지능 발족 100주년이 되는 해까지 인공일반지능의 실현 가능성에 대해 설문조사를 했다.

참석자의 18%는 2056년까지, 41%는 2056년이 좀 지난 뒤에 인공일반지능을 가진 기계가 실현된다고 응답했다. 결국 59%는 인공일반지능의 실현 가능성에 손을 들었고, 41%는 기계가 사람처럼 지능을 가질 수 없다고 응답한 것으로 나타났다.
  
그렇다면 초지능이 먼 훗날에 실현 가능성이 확실하지 않음에도 불구하고 그 위험성부터 경고한 머스크, 호킹, 게이츠의 발언은 적절하지 못한 것이라고 비판받아야 하지 않을는지. 과학을 잘 모르는 일반 대중을 상대로 일부 사회 명사가 과장해서 발언한 내용을 여과 없이 보도하는 해외 언론에도 문제가 없다고 볼 수만은 없는 것 같다.
 
보스트롬은 기계가 초지능이 되는 두 번째 방법으로 마음 업로딩(mind uploading)을 제시한다. 사람의 마음을 기계 속으로 옮기는 과정을 마음 업로딩이라고 한다. 1971년 마음 업로딩이 언급된 논문을 최초로 발표한 인물은 미국 생물노화학자 조지 마틴이다. 그는 마음 업로딩을 생명 연장 기술로 제안했다. 이를 계기로 `디지털 불멸(digital immortality)`이라는 개념이 미래학의 화두가 됐다. 마음 업로딩은 미국 로봇공학자 한스 모라벡이 1988년 펴낸 `마음의 아이들(Mind Children)`에 의해 대중적 관심사로 부상했다.
 
모라벡의 시나리오에 따르면 사람 마음이 로봇 속으로 몽땅 이식돼 사람이 말 그대로 로봇으로 바뀌게 된다. 로봇 안에서 사람의 마음은 늙지도 죽지도 않는다. 마음이 사멸하지 않는 사람은 결국 영원한 삶을 누리게 되는 셈이다. 이런 맥락에서 인류의 정신적 유산을 모두 물려받게 되는 로봇, 곧 마음의 아이들이 지구의 주인이 될 것이라고 전망했다.