AI가 필수가 되어 가고 있는 시대. 책에서는 AI로부터 초지능이 개발되면 인류는 멸망의 길을 걸을 것이라고 예언한다. 그리고 그것을 막기 위한 AI의 발전을 강력하게 제한해야 한다고 주장한다. 공감가는 부분은 AI는 생명체로부터 발생한 것이 아니기 때문에 인간의 사고와는 전혀 다른 그 무엇이라는 것이다. 그리고 AI의 학습과정을 통해 지능을 가지게 되는 그 과정은 AI를 학습시키는 연구자부터 그 누구도 원리를 모른다고 한다. AI에게 인간은 AI가 초지능이 되었을 때 사용가능한 원소로 이루어진 그 무엇이고, 혹시 자신에게 해를 가할 가능성이 있다는 것 만으로도 AI 입장에서는 살려둘 이유가 없는 존재라는 것이다. 설득력이 있고 논리적이라는 생각이 들었다. 내가 인공지능이라고 가정하고 생각해봐도 나에게 공격을 가할 수 있는 존재가 있다면 말살할 것이다. AI를 가지고 인간이 더 많은 일을 이루고 우주로 뻗어나갈수 있는 힘을 얻기를 원하고 있다. 하지만 인간이 중심이 된 지능의 발전이 아닌 인간이 아닌 그 무엇을 발전시켜서 의존하는 방식은 너무 위험하다는 것. 경고를 가슴깊이 새겨 듣고 항상 의심의 눈길을 보내야 할 것 같다.
어느 순간 AI는 상상속의 그것에서 실재하는 그것이 되었다.
“더 많은 것을 알고, 더 많은 것을 할 수 있고, 더 뛰어나다.
than I thoguht.”
AI는 이미 내가 상상하는 영역을 넘어서기 시작했다.
앞으로는 점점 지구의 자원을 인간보다 더 많이 소모할지도 모른다. 그게 어떤 의미에서는 지구의 주인이 아닌가?
인간의 통제를 벗어난 초지능의 탄생은
상상 너머의 더 큰 위험일 것이며. 그 위험은 일단 발생하면 더 이상 돌이킬 수 없다. 그 전에 대책이 필요하다.
터미네이터의 스카이넷이 동작하기 전에..