데스봇과 인공지능 윤리
데스봇에 대한 해결방안을 연구한 논문
데스봇은 찬반토론의 주제로 쓰이기도 하지만 이미 구현된 사례도 있을 정도로 삶에 들어오고 있다.
이 인공지능을 사용할지 말지에 대해서는 애도 방식의 차이라 생각되어 데스봇을 사용하는 사람의 뜻을 존중할 필요가 있고 데스봇이 쓰이는 것을 막을 길도 없다고 생각한다.
데스봇에 윤리적 문제가 얽혀있는 것은 찬반토론으로 끝나지 않는다. 사용될 것이고 이로 인해 야기될 문제들에 대해 이야기하고 함께 토의하는 과정이 꼭 필요하다.
The Ethics of ‘Deathbots’, Nora Freya Lindemann의 연구
며칠 전 데스봇의 윤리적 문제와 관련하여 데스봇에 대한 찬성, 반대 근거 이야기에서 나아가 대안을 하는 연구를 처음 보게 되었다. 흥미로워 기록한다.
데스봇에 대한 해결방안 연구 요약
1. 연구의 배경
: 최근 AI 프로그래밍의 발전으로 새로운 응용 분야가 등장 : 사망자의 말하기와 글쓰기 행동을 모방하는 개인화된 챗봇인 '데스봇(Deathbot)', 즉 사망자 모방 챗봇은 이미 구현되었으며 현재 몇몇 스타트업 기업들이 개발 중이다.
2. 문제점과 연구의 관점 설정
: 데스봇의 윤리적 함의를 고려하는 것이 시급한 문제이다. 기존의 데스봇에 대한 윤리 이론들은 항상 사망자의 존엄성에 대한 고려를 바탕으로 했다. 하지만 이 연구는 데스봇을 사용하는 유족의 존엄성과 자율성에 초점을 맞출 것을 제안한다.
2-1. 데스봇에 대해 유족의 존엄성과 자율성에 관한 시각으로 본 문제점, 반대의견
: 데스봇이 유족 사용자의 애도 과정에 부정적인 영향을 미칠 수 있으며 따라서 사용자의 정서적, 심리적 웰빙을 제한할 가능성이 있다.
데스봇 사용자들은 자신의 봇에 의존하게 될 가능성이 높으며, 이는 데스봇 제공 기업의 은밀한 광고에 취약해지고 자율성이 제한될 수 있다.
2-2. 데스봇에 대해 유족의 존엄성과 자율성에 관한 시각으로 본 이점, 찬성의견
: 동시에 데스봇은 장기적이고 심각한 애도 과정을 겪는 사람들에게 도움이 될 수 있다.
3. 연구자의 제안
제안
데스봇의 무제한적 사용에 대해 경고하며 규제되어야 한다. 따라서 데스봇을 의료기기로 분류할 것을 제안한다. 데스봇을 의료기기로 분류하고 규제함으로써, 우리는 그 잠재적 이점을 활용하면서도 동시에 사용자의 존엄성과 자율성을 보호할 수 있을 것이다.
제안에 대한 근거
1. (데스봇이 의료기기가 되면) 유족, 사용자에게 의사의 처방을 통해서만 제공되도록 보장하고, 데스봇이 다른 의료기기처럼 임상절차 등을 거치게 된다.
: 데스봇을 의료기기로 분류한다는 것은 데스봇이 무해한지 지속적인 애도를 겪는 사람들에 대해 유용한지 입증되어야 한다는 것을 의미한다. 의료기기로서의 데스봇은 의사의 처방을 통해서만 사용할 수 있어야 한다. 처방을 통해서만 사용할 수 있다면 데스봇이 필요한 사람들에게만 제공되도록 보장할 것이다.
또한 의사들은 데스봇 사용의 잠재적 위험과 이점을 평가할 수 있는 위치에 있으므로, 환자에게 가장 적합한 치료 방법을 결정할 수 있다.
2. (데스봇이 의료기기가 되면) 유족, 사용자의 자율성 침해가능성도 줄어든다.
: 자율성이 침해된다는 것은 유족 사용자가 감정 조절을 위해 봇에 의존하게 될 수 있다는 것이다. 게다가 데스봇은 사용자가 봇을 삭제할 수 있는 자율성을 막기 위해 가짜 유대감을 계속 만들어낼 수도 있다. (기업의 이윤을 위해 중독성을 의도한 봇이 만들어질 수 있다는 뜻인 듯)
더불어 데스봇 제공 회사들은 사용자 데이터 보호에 대한 엄격한 규정을 준수해야 한다. 사용자의 개인정보와 대화 내용은 철저히 보호되어야 하며, 광고나 기타 상업적 목적으로 사용되어서는 안 된다.
추가 논의
이 연구의 제안대로 데스봇이 의료기기가 될 때 '디지털 유해', '디지털 유물'이 소비재 정도로만 쓰이는 것을 막을 수 있다고 말하는 것도 설득력있다. 죽은 사람의 디지털 기록을 '디지털 유해', '디지털 유물'로 생각해야 한다는 내용 역시 인상적이다.
추가논의의 요지
글의 요지는 데스봇을 의료 기기로 분류함으로써 고인의 디지털 유산이 갖는 본질적 가치를 유지하고, 그것을 단순히 상업적 목적으로 완전히 활용하는 것을 제한할 수 있다는 것이다. 즉, 데스봇이 의료 기기로 분류되면 고인의 디지털 유산은 단순한 수익 창출의 대상이 아니라 유족의 애도 과정을 돕는 잠재적 가치를 지닌 것으로 여겨질 수 있다는 의미이다. 이를 통해 디지털 유산의 무분별한 상업화나 금전적 이용을 제한할 수 있다는 것. 추가논의에서 인상적인 점은 데스봇이 의료기기가 되면 유명인 등의 디지털 유산이 사후에 상업적인 목적으로 쓰이는 것을 막을 수 있다는 점이다.
추가논의의 내용
- 유족, 사용자 자율성 문제와 관계없이 디지털 유물을 고고학적 유물처럼 취급해야 하며, 따라서 내재적 가치가 있는 것으로 간주되어야 하며, 살아있는 사람들의 소비원으로만 취급되어서는 안 된다고 제안한 Öhman과 Floridi( 2017 , 2018)의 견해를 따르고자 한다.
- 디지털 유물을 사용하여 데스봇을 생성하는 경우, 필연적으로 살아있는 사람들이 소비하게 된다. 데스봇을 의료 기기로 이해한다면, PGD와의 싸움에서 유족을 돕는 도구적 가치가 있을 것이고, 따라서 소비원으로만 간주되지 않을 것이다.
게다가, 유명인의 디지털 유물이 사후에 데스봇으로 바뀌어 모든 사람이 구매하여 사용할 수 있는 시나리오를 피할 수 있다. 이런 시나리오에서 디지털 유물은 살아있는 사람들의 소비원일 뿐이지만 만약 데스봇이 의료 기기로 분류된다면, 그 사용은 그것이 묘사하는 사람과 소중한 관계를 맺었던 사람들에게만 국한될 것이다.
* PGD 극심한 이별 고통, 상실에 대한 집착, 수개월 또는 수년에 걸쳐 주요 삶의 역할을 수행할 수 없음을 특징으로 하는 강렬하고 장기간의 복잡한 슬픔을 말한다.
관련 생각 메모
▶ 윤리적 문제의 관점을 사망자, 사용자로 나누어 접근하고 사용자에 중점을 두어 연구하는 방향 설정이 인상적이다. 토론이나 연구를 할 때 이러한 관점을 구체적으로 설정하는 것이 좋겠다.
▶ 인공지능 윤리 찬반토론 주제, 트롤리 딜레마, 데스봇
인공지능 윤리 토론 주제로 트롤리 딜레마는 조금 아쉬운 점이 있다고 생각해왔다. 트롤리 딜레마는 데스봇처럼 근거와 현실적인 대안을 이야기 하기 어렵다. 트롤리 딜레마는 다수의 사람과 소수의 사람을 두고 누구를 살릴 것인가를 문제로 한다. 그리고 소수에게는 부족한 머릿수를 채워줄 만한 약간의 극적인 사정을 둔다. 어린이라던가 노인이라던가 하는 식이다. 말그대로 딜레마에 빠지게만 한다. 트롤리 딜레마를 소재로 꺼내는 이유가 인공지능 윤리가 무자르듯 해결책을 내기 어렵다는 느낌의 간접체험이라면 의미가 있을 수 있다. 특히 자율주행자동차의 결정이 얼마나 어려운지 알려주고자 하는 것이라면 설명 정도로 꺼내볼 만한 주제일 수 있겠다. 그렇지만 트롤리 딜레마에 대해 토론을 하는 경우 근거와 현실적인 대안을 고민하기 보다는 주로 냉정하게 판단하는 성격인가, 감정적으로 다른 사람의 사정을 고려하여 판단하는 성격인가로 의견이 나뉘어 맴돌다가 끝나는 경우가 많다.
댓글
댓글 쓰기