제임스 카메론 감독이 생각하는 AGI, "스카이넷보다 감시 자본주의, 디지털 전체주의가 큰 위협이다."

제임스 카메론 감독이 생각하는 AGI, "진정한 위협은 디지털 전체주의다."

제임스 카메론 감독은 누구?

제임스 카메론은 터미네이터, 아바타, 타이타닉, 에일리언의 감독이다. 24년 9월 말 기사를 찾아보니 인공지능에도 관심이 많아 최근 Stability AI의 이사회의 멤버로 참여했다고 한다. 이 회사는 이제 모르는 사람이 거의 없는 이미지 생성AI, '스테이블디퓨전'으로 유명한 회사이다.

AGI를 두고 터미네이터의 "스카이넷" 캐릭터가 많이 회자되는 만큼 제임스 카메론 감독은 AGI 관련 인터뷰를 정말 많이 받았을테고, 실제로 AI의 위험성에 관심이 많다고 한다. 23년 인터뷰에서는 "내가 1984년에 여러분에게 경고했지만, 여러분은 듣지 않았다"고 답변하기도 했다. (참고로 1984년은 영화 '터미네이터'가 개봉된 해)

흥미로운 표현이다. 제프리 힌턴 교수가 한 말이 떠오른다.

"연구원들은 정렬 문제를 연구해야 하고 정부는 법안을 마련해야 한다고 말한다. 다만, 아주 불쾌한 일이 일어나기 전까지는 입법이 불가능할 것"

두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것

최근 24년 10월 말 인터뷰에서는 AGI에 대해 AGI 자체는 우리의 거울일 뿐 두렵지 않다고 말하면서 더 두려워해야 할 것은 터미네이터 영화 장면 같은 종말이 아니라 AI로 인해 '오웰식' 감시 체제가 생기는 것이라고 말했다.

"AGI는 우리가 선한 만큼 선하고, 우리가 악한 만큼 악할 것"이라며 "이미 세상에는 악이 넘쳐나고 선이 무엇인지에 대한 합의도 전혀 없으니, 무엇이 더 잘못될 수 있겠냐" 라는 표현도 인상적이다. 이는 결국 AGI자체가 위험한 것이 아니라 AGI를 쥐고 있는 것이 거대 기업이며 거대 기업의 목표가 이윤 추구라는 점이 위험인데 이에 대한 합의도 규제도 없다는 것을 짚은 것이다.

AI에 핵무기를 맡긴다고 하면 정부가 나서서 막을 수 있지만 AI가 상업화되고 사람들의 인터넷, 모바일 활동에 알고리즘으로 영향을 주는 것은 막을 길이 없다고 한다.

선해보이고 친근한 모습으로 삶에 들어오고 있는 기업들의 AI가 감시 체제를 열심히 만드는 동안, 악역을 도맡은 영화 속 AGI 덕을 보고 있는지도 모른다.

제임스 카메론 감독의 경고, "스카이넷보다 감시 자본주의, 디지털 전체주의가 큰 위협이다."

우리가 직접 하지 않은 일에 대해 책임을 지고 우리가 점점 과도하게 의존해가는 AI의 결정과 생각은 이제 우리의 정체성에서 큰 비중을 차지하고 있다.

제임스 카메론 감독은 SF에서 나오는 인류 종말보다 AI 기업에 의한 개인 데이터 수집, AI의 영향력 확대, 사람들이 알고리즘에 의해 선택하도록 유도되는 것들이 큰 위협이라고 경고한다.

즉, "AI기업이 소비자 데이터를 수집하여 이윤을 위해 판매하는 감시 자본주의(surveillance capitalism)를 통해 '디지털 전체주의(digital totalitarianism)'가 가속화될 것이 큰 위협이라고 말하는 것이다.

AGI의 개발을 할 곳은 정부가 아니라 기업일 것이다.

우선 그는 영화처럼 미국 국방부나 정부가 스카이넷을 개발할 가능성은 없으며, AGI가 나온다면 "현재 엄청난 자금을 투자하는 기술 기업에서 나올 것"이라고 말한다. 또 영화처럼 AI가 인간을 직접 해치는 시나리오보다 현실이 더 나쁠 수 있다고 지적했는데 그 말이 촌철살인이다.

"당신이 동의하지 않았고 투표하지도 않았지만, 기업의 목표와 규칙에 따라 행동하는 초지능 외계 종족과 함께 거주하는 세상에서 사는 것" "기껏해야 이러한 거대 기술 기업이 자칭 선의 중재자, 즉 닭장을 지키는 여우가 될 뿐"

닭장을 지키는 여우가 닭을 어떻게 지켜주고 소비할까?(잡아먹을까?)