(AI) 생성인공지능과 삶의 변화, 일반인공지능과 자본주의 How will AI change the world?, Will AI 'Break' Capitalism?

인공지능 시스템을 통제하는 것은 인공지능이 임무의 진정한 목적을 모르게 하는 것에서 온다. 

  "무자비한 알고리즘" 책이었던가 무슨 내용인지 이해안되는 위와 비슷한 문구를 본 적이 있다. 인공지능이 자신의 목적을 몰라야 한다는 말이었다. 

 비로소 이해되었다. 이 영상은 스튜어트 러셀 박사의 인터뷰에서 발췌한 내용이라고 한다. 어떤 최종 목적을 주고 일을 시킬 때 사람은 환경이나 영향을 받는 대상에 대해 모두 구체적으로 일일이 알려주지 않아도 최대한 고려한다. 무엇보다 자기 자신이 모든 것을 다 알고 있지 않다는 것도 알고 있다. 그러나 인공지능은 그 목적 달성이 목표일 때 고려할 것을 구체적으로 설정해주지 않는다면 문제가 생겨나기도 할 것이다. 이제서야 "인공지능의 통제를 위해서는 임무의 진정한목적을 모르게 하는 것이 필요하다"는 말이 이해된다.

      

 그리고 한 가지 더, 가르치고 배우는데는 오랜 시간과 노동력이 요구된다. 문명이 유지되기까지 그런 노력이 이어져 왔고  단순히 책에 기록한다고 문명이 이어지는 것이 아니다. 교육과 배움이 있어야 하는데 인공지능으로 인해 지금까지 이어진 사슬이 끊기게 된다면? 

 비유를 위해 E.M.Forster의 The Machine Stops라는 책도 간단히 소개되는데 월E의 인간들과 유사한 모습이 나오는 소설인 듯하다. 

 최근 Chat GPT나 Runway등을 보며 감탄의 뒷면에서 풍기는 무력감에 대해 "배움은 유의미하다는 것을 잊지 말라"는 내용은 오히려 위안으로 느껴졌다. 물론 지금은 예전 배우던 것을 계속 배우는게 아니라 여기저기 두리번 거릴 때 인듯하다. 인기있는 분야를 배워야지 싶다. 개인적으로는 "독자성을 가져고 저 사람에게 로열티를 지불해도 될 만큼의 경지는 어떻게 하면 도달하는가"가 요즘 배움의 고민이다. 일단 그 구체적인 방법으로 글을 쓰기로 했다. 생각보다 차곡차곡 내공이 쌓이는 간단한 방법이다.

 Open AI의 SamAltman이 인공 일반지능(AGI)가 완벽하게 된다면 자본주의를 파괴할 수 있다고 하였단다. 

 말은 자극적이라 인상깊은데 이해가 어렵고 구체적인 방법이 궁금하다. 이에 대해 사람들은 저마다 의견이 분분하고 구체적인 해석이나 반론을 내놓는 듯하다. 그러나 진지한 논의가 시작될 수 있다는 것만으로도 저 말이 완전히 틀린 것은 아니고 일부 가능성이 있는 발언이겠구나 하는 생각이 들었다.

 나는 자본의 영향력이야 그대로이고 부의 편중이나 거대 플랫폼에 강제 헌혈을 하는 삶은 인구 대부분에게 그대로일 것 같다고 생각한다. 다만 소극적으로나마 "조금이라도 돈을 절약하기 위해 또는 개인 비서가 없어서 스마트 시스템이지만 그림자 노동을 해야 하는 사람들", "스마트폰에서 하루종일 벗어나지 못하고 일을 처리하거나 취미를 그 안에서 즐기는 사람들"이 AI 비서가 생겨서 저 두 가지의 굴레에서 조금 벗어날 수 있다고 생각했다. 그게 자본주의로 사람들의 삶이 층이 생긴 부분이 조금 다시 비슷해지는 것 아닌가 생각이 들었다. 

 일반 인공지능이라면 "이름만 비서이고 그림자 노동을 시키는 스마트폰"이 아닌 진짜 개인 비서에 가까운 시스템을 옆에 두는 셈이 되니 말이다. 

  

다른 거시적으로 생각하는 사람 글 스크랩-https://doctorspin.net/ai-can-break-capitalism