(AI 윤리) Sand Lab 과학자들의 두 가지 프로젝트 (Fawkes, Glaze)와 내 생각

(23년 6월 10에 쓴 글)

 

Fawkes, Glaze라는 두 가지 프로젝트

 Sand Lab 과학자들의 프로젝트이다. Fawkes는 온라인에 업로드 된 사람들의 얼굴 사진이 AI의 학습데이터로 수집되어 활용되는 것으로부터 보호하기 위해 얼굴 사진을 바꿔주는 것이다. 물론 우리 인간이 보기에는 이미지가 전혀 변하지 않은 것으로 보인다. '클로킹'이라고 하는 과정을 통해 우리 인간의 눈에는 보이지 않는 픽셀 수준에서 미세하게 그림을 변경하는 것이다. AI가 나의 클로킹 된 사진을 수집해 열심히 학습을 했다고 하더라도 나의 클로킹 안 된 사진을 보았을 때 나를 인식하지 못한다고 한다. 

 위의 기술 출시 후 많은 예술가들이 나의 작품도 보호해줄 수 없겠느냐는 문의가 많이 들어왔다고 하는데 사람의 눈, 코, 입처럼 명확한 기준이 있는 얼굴 사진과 달리 작품은 꽤 난해한 부분이 많았고 따라서 많은 시간과 노력이 필요했다고 한다. 

 그렇게 탄생한 기술이 Glaze로 인터넷에 자신의 작품을 올리기 전에 Glaze 프로그램을 이용해서 작품을 AI가 학습 데이터로 쓸 수 없게 만드는 것이다. (정확히는 위의 Fawkes처럼 AI가 학습데이터로는 쓰지만 다른 그림, 스타일로 인식되게 하는 것이다.)

 Glaze는 우리나라 말로 "유약을 바르다"이니 얼마나 이름을 잘 지었는지 감탄이 나온다. Glaze 프로그램을 통과한, 그야말로 '유약을 바른 작품'은 우리가 보기에는 큰 차이가 없어 보인다. 하지만 작품은 보호된다. 물론 연구진은 Glaze 사이트에서 앞으로 이 기술을 넘어서는 AI가 또 나올 수 있다고 말한다. 하지만 지금까지는 최선의 기술이며 우리가 아는 한, 아티스트가 자신의 작품을 온라인에 올리면서 자신의 스타일을 미리 보호할 수 있는 유일한 도구라고 말하고 있다. 이렇게 말할 수 있는 모습에서 자신감이 엿보인다. 비영리적 목적의 예술가들을 위한 프로그램이라는 시도도 멋지고 Future Tools라는 사이트에서 꽤 높은 추천을 받은 것을 보면 실제로 많은 사람들이 호응하고 기다렸던 기술인 듯 하다.

 

 AI와 예술에 대한 사람들의 이야기와 내 생각

 AI가 예술 영역에서 제시하는 문제는 생략하고 이에 접근하는 3가지 접근 방식을 생각해보았다.

 1) 적극적인 해결책으로 기술로의 대응을 제시

  Fawkes에 관한 설명에서 Sand Lab 과학자들의 정부의 규제는 공기업에는 큰 영향을 줄 수 있지만 민간에는 영향이 미미할 것이라고 말한다. Glaze가 개발된 배경도 크게 다르지 않다. AI의 이미지 데이터 수집, 학습 과정에서 일어나는 예술가의 권리 침해와 관련하여 적극적인 해결책으로 기술로의 대응을 제시하고 있다. 우리가 바이러스 백신 프로그램 설치하고 업데이트 해왔던 것처럼 이런 보호 기술을 가진 사이트나 어플, 확장 기능 등을 쓰고 매번 업데이트 된 버젼을 확인할지도 모르겠다.

 2) 창의성의 보완으로 보는 시각, 예술 교육에 도입

  아이스크림 시상식에서 아이스크림의 새로운 사업에 대한 소개를 들었을 때 연구진 분이 창의성을 보완해주는 관점으로 AI를 활용한다고 하며 소개한 것이 인상적이다. 물론 이런 주장은 많이 들어왔으나 창의성을 보완하기 위한 구체적인 기능들을 보았을 때 생성 AI가 흥미와 영감 뿐만 아니라 자신감을 준다는 사실은 명백해보였다.

 3) 

디스토피아, 유토피아가 현실이 아니라 무엇을 해야 할지 의논하는 사람이 거의 없다는 것, 제일 잘못한 것은 책임을 생각하지 않는 사람들에게 너무 큰 힘을 준 것, 책임과 힘이 분리되어있다.