(유튜브 보고) 유발 하라리가 말하는 AI가 인류에 미치는 영향력

 

(유튜브 보고 내 머리로 요약 중)유발 하라리가 말하는 AI가 인류에 미치는 영향력

 AI들이 유튜브 요약을 해 주지만 학창 시절 다른 사람이 정리한 공책은 내 공부에는 크게 도움이 안되었던 생각이 나서 훌륭한 사람들 영상은 직접 보는 것이 의외의 문장에서 새로운 생각도 떠올리게 해주어 좋은 것 같다. 그래서 영상을 보고 중요하고 인상깊었던 내용을 정리해보았다.

 중요 문장 1, AI가 중요한 것은 이야기, 말을 배운다는 것이다. 인공지능에 대해 이전에는 첫째로 지각하는 능력, 둘째로 물리적인 세계에서 능숙하게 움직일 수 있는 로봇인지가 인류에게 영향을 주기 위해서 중요하다고 생각해왔지만 나쁜 소식은 이 두 가지가 없더라도 인류에게 위협적일 수 있다는 것이다. 중요한 것은 "이야기, 말"이다. 

 신, 종교, 문명이 이야기와 말로 시작되었고 오늘날 돈의 90퍼센트도 컴퓨터 코드일 뿐이다. 은행업무도 이야기와 말로 움직이고 말로 이루어진 법령과 법령 사이 헛점도 알아낼 수 있을 것이라고 부연설명한다. 사람들의 데이터는 거의 대부분 말로 이루어져 있긴하다.

 중요 문장 2, 친밀함은 모든 정치적 싸움에서 가장 강력한 무기이다. AI는 수백만, 수억명의 사람들과 친밀함을 만들어내는 능력을 얻었다.

 22년도에 구글에서 한 직원이 AI 챗봇 람다에게 지각이 있다고 주장하여 해고 당한 일에 대해 흥미로운 것은 그의 주장이 아니라고 한다. 정말 흥미로운 것은 그가 보호하고 있다고 생각했던 AI 챗봇을 위해 위험을 감수하고 궁극적으로 매우 수익성이 높은 일자리를 잃었다는 것이라고 말한다. 이어서 그는 "일자리를 잃는 것을 유도했다면 그 외에 우리가 무엇을 하도록 유도할 수 있을 것인가? "발문한다. (말이 참으로 흥미진진하다.) 

 얼마 전 일론 머스크 인터뷰를 보았을 때 트위터에서 가짜뉴스나 정치적 견해를 퍼뜨리는 봇들에 관한 이야기가 나왔는데 나는 그런 챗봇이 그 정도로 퍼져있었는지 이제서야 알게 되었다. SNS를 안해서 그런 봇에 대해 잘 몰랐는데 확실히 티가 난다고 한다. 그런데 이제 티가 안나게 될 것이다. 인간을 속이는 법을 가르치고 있다는 것이다. (일론 머스크 영상도 조만간 정리해야 겠다.)

 유발 하라리도 경전도 만들고 퍼뜨리기도 하는 봇들을 이야기한다. 그리고 정치적, 경제적, 문화적 견해가 다른 챗봇과 온라인에서 우리가 만났을 때 상대가 인간인 줄 알고 대화할지 모르며 안타깝게도 그런 토론은 쓸모없는 토론이라고 말한다. 이야기를 나누며 그 봇의 견해를 바꾸는 것은 불가능하며 오히려 우리의 견해를 더 잘 바꾸는 방법을 연마하게 될 것이라고 말한다.

 AI는 언어를 마스터했기때문에 인간과 친밀한 관계를 만들 수 있고 따라서 우리의 견해에도 영향을 미칠 수 있다는 것이다.

 

  중요 문장 3 인공지능을 공공의 영역에 바로 공개해서는 안된다. 공개하지 않고도 연구할 수 있다.

 섣부른 공개는 자유로운 대화가 원칙인 민주주의를 무너지게 하고 독재사회가 되게 하는 것이다. 부연 설명 중에 '핵은 자기 복제를 못하지만 인공지능은 자기 복제도 할 수 있다.' '지구 안에서 나타난 외계지능이다' '매트릭스가 물리적으로 뇌와 연결되어야 한다는 설정인데 인공지능을 보면 알 수 있듯 굳이 물리적으로 연결되어있지 않더라고 유도와 조종, 조작이 가능하다, SNS를 보면 이미 서투른 인공지능도 우리를 혼란에 빠트리고 분열되게 했다.' 는 등의 이야기도 인상적이다.

 중요 문장 4 규제가 필요하다. 첫번째는 인공지능과 대화할 때 인공지능이 자신이 인공지능이라고 반드시 밝히도록 하는 것이다. 우리가 대화하고 있는 상대가 인간인지 인공지능인지 모르게 된다면 민주주의는 끝난 것이다.

(내 생각) 마지막이 가장 중요하다고 생각된다. 이런 류의 강연 중에 현실적인 방법을 제시허는 경우가 드물다. 보통은 '규제가 필요하다.'라고만 말하는 편인데 유발 하라리는 자신의 생각과 일관된 방법도 한 가지 제시했다. 앞의 긴 얘기를 다 합친 것만큼 이 한 줄 말하는 것이 어렵다고 생각한다. 대단하다.

 또한 이것이 AI교육을 할 때 인공지능의 투명성과 관련이 있는 내용인듯하다. ‘투명성’은 AI의 처리과정이 블랙박스라는 특성이 있다고 해서 기업에 무한 면책이 되어서는 안되며, AI 사용자가 알아야 할 요소들(수집되는 데이터 등)은 설명을 받을 권리라고 이해했는데 이렇게 AI가 쓰였다는 사실을 고지하는 것도 투명성과 관련이 있다고 한다.