테드 창 "숨" 중에서 소프트웨어 객체의 생애주기

 

테드 창 "숨" 중에서 "소프트웨어 객체의 생애주기" 속 AI 윤리

 소프트웨어 객체의 생애주기는 동물조련사 일을 했던 주인공이 가상세계의 반려동물인 디지언트를만드는 회사에 취직하게 되면서 시작된다. 시간이 흘러 회사는 망하지만 그 주인공은 돌보던 디지언트들을 이미 가상 세계의 객체 이상으로 생각하고 있었고 역시나 입양을 해서 퇴사 후에도 따로 키운다.

 소설 속 디지언트는 말을 주인에게 배우고 마치 강아지처럼 주인을 맹목적으로 신뢰하고 사랑하는 모습을 보인다. 이야기를 읽는 나조차 디지언트들의 순수하고 사랑스러운 대사에 놀람과 동시에 디지언트를 소프트웨어 객체 이상으로 여겨도 될지 갈등된다. 어느 날 디지언트가 갑자기 놀기 싫다며 일자리를 달라고 떼를 쓰는 장면이 나온다. 주인공은 디지언트의 행동에 의아해하며 이유를 묻는다. 디지언트는 마치 강아지처럼 무조건적인 사랑을 적극적으로 표현한다. '자기가 돈을 벌어와야 주인공이 돈을 안벌어도되어서 나랑 놀 시간이 많아질 것'이라고 대답하여 주인공뿐만 아니라 글을 읽는 나까지 디지언트에 훅 애정이 생기게 되었다. 

 소설의 전반적인 내용은 미래에 이런 일도 있을 거야라고 으레 짚어보던 내용들이라서 큰 줄거리만 들어보면 조금 진부하네라고 느낄 수 있지만 극단적으로 갈등될만한 상황들이 연거푸 벌어지니어렴풋이 예상하던 것과는 다르게 실제 겪은 듯이 고민되게 만든다. 게다가 디지언트에게 정이 든다면 쉽지 않은 결정들이 많다.

 디지언트가 아예 새로운 외모를 갖지 않고 기존의 동물과 거의 똑같은 외모를 갖도록 만들었다는 설정은 참 잘한 것 같았다. 그 설정 하나만으로도 디지언트들을 함부로 대하기 어려울 것이라 생각되고 무엇보다도 사람이 쉽게 정들 수 밖에 없다.

 (내 생각 : 현재 우리가 가상현실 속 또는 현실에서의 인공지능 외형에 대해서 크게 고민하지 않지만 한번쯤 생각해 볼일이다. 사용자가 선택하고 커스터마이징 하게 된다면 나는 어떤 외형을 원하는 가? 어린이들이 사용하는 경우 어떤 외형이어야 할까? 흔히 사용자가 아바타를 선택하고 세세하게 커스터마이징 할 수 있는 기능은 사용자가 플랫폼이나 게임 등에 마음을 붙이고 몰입하는데 중요한 역할을 했는데 말이다.)

 디지언트가 사람들에게 관심을 얻을수록, 다른 세력들에 의해 디지언트가 유해한 영상을 보거나 때로는 사람에게서 욕설을 배우기도 하는 일도 벌어진다. 이러한 돌발상황에 대해 디지언트를 만든 회사 역시 특별히 해결할 방법이 없었다보니 결국 디지언트를 정지 시키고 디지언트의 시간을 되돌리곤 한다.

 우리가 컴퓨터 파일 정도라면 오류 이전의 백업파일을 찾아서 다시 작업하는 것에는 심리적 장벽이 없을 것이다. 그러나 사랑스러운 나의 디지언트가 그렇게 된다면 상황은 비슷한듯하지만 마음에는 큰 차이가 생겨난다. 주인공은 디지언트가 다른 디지언트와 교류하고 놀기도 하다보니 '정지'와 '되돌려감기' 때문에 서로의 발달에 차이가 나는 것을 인지하게 된다. 게다가 어느 날은 디지언트가 직접 주인공에게 자신을 '정지'시키고 '되돌려 감기'하는 것을 멈추어 달라고 부탁한다. 

 이야기 속 세계는 이미 메타버스가 자리를 잡은 모습이다. 가상세계에서는 디지언트들이 또 다른 아바타로 모습을 바꾸어 가상세계에 접속한 '인간' 아이들과 함께 수업을 듣고 다같이 놀기도 한다. 가상세계에서 만큼은 비슷한 모습으로 디지언트와 어린 아이들이 동등하게 구별없이 지낸다.

 그런 디지언트가 로봇의 몸체에 잠깐 옮겨져서 현실을 거닐 수 있게 된다. 나중에 주인공이 디지언트들을 보호하기 위해 로봇의 몸체에 디지언트를 이식하려고 한다. 

 '가상세계에서는 이미 동등한 객체가 현실세계에서 인간과 동등하게 지내지 못할 것은 무엇인가'라는 새로운 생각이 나타다보니 디지언트를 키우는 사람들 중에서 디지언트를 법인화하여 디지언트들의 권리를 만들어주고자 하는 이들도 생겨난다. 

 로봇의 몸체에 디지언트를 이식하기 위한 비용을 위해서 주인공은 자기가 키우는 디지언트를 복제하여 섹스로봇을 만드려는 회사와 계약을 하게 된다. 

 나는 뒤로 갈수록 희끄무리하게 읽었지만 이야기흐름은 결국 가장 날카로운 고민까지 도달해 있었다.

 이미 가상세계에서 동등하게 지내는 객체가 현실의 몸체를 갖게 된다면 현실에서는 갑자기 차별을 둘 것인가? 이 정도로 발달되고 허용된 상태에서는 사람과 디지언트가 원한다면 서로 사랑하거나 관계를 못맺을 근거도 없는 상황까지 도달한 셈이다.

 "이미 디지언트를 자식과 같이 생각하는 주인공"은 이 디지언트들이 나중에 더 성숙해지면 이들에게 사람만큼의 권리가 있다는 생각을 한다. 아직 디지언트와 같은 소프트웨어 객체를 못 만난 독자에게는 '낯설지만 그럴 수도 있겠다.'는 생각을 들게 한다.

(내 생각 : 현실세계에서는 모습이 다르지만 가상세계에서 거의 같은 모습을 하고 어린 시절을 같이 보낸다면 우리는 서로를 동등하다고 여기는 마음이 생길 것이다. 그런 인공지능 객체가 가상현실이 아닌 현실세계에 사람과 비슷한 외형을 갖고 만들어진다면 우리는 어떤 마음으로 대상을 보게 될까? 이런 갈등에 빠지고 싶지 않다면 우리는 태생이 다르다는 표식이 필요하거나 생김새를 확연히 다르게 만들어야 할지도 모른다. 마치 신분차이처럼 느껴지긴 한다.)

생각

 주인공이 동물 조련사 였기 때문에 처음부터 동물과 꼭 닮은 디지언트들을 소프트웨어 객체 이상으로 존중했고 디지언트들에게 말을 가르치고 교육을 하면서 더 정이 들게 된다.

 동물과 꼭 닮거나 인간과 꼭 닮은 외형에 인간과 같은 현실세계에서 생활할 수 있고 인간에게 옹알이부터 배워서 시작하는 로봇이 마침내 자신의 감정을 표현한다면 그것만으로도 딜레마에 빠지는 일이다. (물론 '감정이 있는 척'만 해도 꽤 갈등될 것이다.)

 사랑스러운 외형을 가진 것보다 더 갈등을 주는 것은 인공지능 로봇이 주인에게 학습을 한다는 설정이다. "내가 키우는 인공지능 로봇이 내가 가르치고 애정을 쏟는 만큼 발전의 여지가 있는 대상이 된 설정"은 큰 딜레마를 던져준다. 

 무조건적인 사랑을 표현하는 애완동물의 모습을 한 인공지능 로봇이 주인에게 말도 배우고 유치원을 보내주면 그만큼 더 성장하기도 한다는 설정이다. 그런 상황에서 "너는 사람은 아니니까 여기까지만 배워라" 하고 전원을 내리거나 역할에 한계선을 긋기가 망설여진다. 물론 그 전에 정이 들어버렸다면 더욱 더 힘들 것이다.