딥페이크(Deepfake)-당신이 보고있는 것은 가짜입니다.

 

 

보보의 뉴스노트, 

오늘은 딥페이크와 관련된 이슈를 살펴봅니다. 

AI를 사용한 비디오/오디오 편집기술이라는 것에서 한 발 더 나아가, 딥페이크가 어떤 문제점을 야기하는지 전문가의 설명을 들으며 하나하나 짚어보도록 합시다.

 

---

The Newyork Times

 

안녕하세요? 오늘은 유명인들을 곤혹스럽게 만드는 새로운 기술에 대해 이야기를 나누어 보겠습니다. 오바마가 트럼프를 '한심한 놈'이라고 불렀던 영상 기억하시나요? 킴 카다시안이 랩을 한 영상도 보셨나요? 아놀드 슈왈제네거가 자신의 성대모사를 했던 영상도 보신 적 있으신가요? 이 영상들은 모두 딥페이크(Deepfake)입니다. 여러분들이 모시는 제 모습도 딥페이크입니다. 저는 아델이 아니에요. 저는 온라인 조작을 연구하는 전문가입니다. 

 

 

 

 

딥페이크는 인공지능(AI)를 이용하여 만들어진 비디오나 오디오를 지칭하는 용어입니다. 제가 가장 좋아하는 것은 리사 밴더펌프의 것인데 이는 단순히 얼굴을 바꾸는 기술로부터 시작되었습니다. 하지만 지금은 영화제작 수준으로 발전했죠. "뭐야! 아무것도 믿을 수가 없잖아!" 라고 하는 수준까지 오게 된 거에요. 

 

딥페이크는 무시무시하게 반이상주의적입니다. 그리고 점점 더 실제같으면서 저렴해지고 있습니다. 하지만 이와 관련된 혼란은 과장된 측면이 있습니다. 사실 딥페이크 기술 그 자체보다 더욱 위험한 것은 불필요한 우려를 조장하는 선전입니다. 이것에 대해서 이야기해보죠.

 

첫째, 모든 사람들이 놀라곤 하는 이 기술은 사실 새로운 것이 아닙니다. 포토샵이나 비디오 편집 소프트웨어를 사용해서 짧은 문맥을 잘라내어 과장하거나(Weaponization) 얄팍한 조작기술을 사용하는 것은 오래된 현상입니다. 수요는 매우 많죠. 낸시 펠로시 하원의장이 음주 인터뷰를 하는 것 같은 영상을 보셨나요? 사실 이 비디오는 그녀의 인터뷰 영상을 75%정도 천천히 재생시킨 것에 불과합니다. 오해를 일으키는 아주 짧고 간단한 부분이 확대되어 큰 피해를 불러올 수 있습니다.

 

 

중간선거를 향해가는 기간에 한 무리의 이민자들이 미국을 향하는 사진이 퍼졌습니다. 사진은 이들이 미국으로 가려는 멕시코 이민자들이라는 캡션과 함께 퍼져나갔는데,  사진을 검색한 결과 이 사람들은 실제로 그리스에 있는 파키스탄 난민들인 것으로 밝혀졌습니다. 감정을 조작하거나 거짓된 정보를 퍼뜨리기 위해 딥페이크나 인공지능 기술을 사용할 필요는 없습니다. 

 

 

두 번째 포인트는, 우리가 정말로 우려해야할 것은 거짓말쟁이들이 손에 쥐게되는 이익이라는 것입니다. 널리 퍼진 회의론을 그들 입맛에 맞게 바꿈으로서 자신들의 거짓된 말과 행동에서 벗어나는 것입니다. 2016년 대선 전 퍼졌던 Access Hollywood 테이프를 기억하시나요? "스타들은 무엇이든 할 수 있죠." "무엇이든 할 수 있습니다." "당신이 무얼 원하든지 말이에요." 당시에 트럼프는 자신의 발언에 대해 사과했지만 시간이 지나서 그는 자신이 그 말을 실제로 했었는지 확실하지 않다고 말을 바꾸었습니다. 모든 것이 가짜로 꾸며질 수 있다는 사실은 죄를 지은 사람이 진실을 외면하고 이를 가짜로 만들 수 있는 가능성을 제공합니다. 

 

정말 걱정이 되는 것은 기술에 관한 것이 아닙니다. 제가 우려하는 것은 사회 구성원으로서의 우리가 직접 보는 것, 듣는 것이 더이상 신뢰하지 못하는 것이라는 생각에 우리 스스로가 어떻게 반응하는가 입니다. 우리가 두려움을 판다면, 과장한다면, 거짓에 귀를 기울인다면 그것 자체가 문제가 될 것입니다. 이 문제가 어떤 방향으로 흘러갈지 예측하실 수 있으실 겁니다. 미디어나 교육, 선거와 같은 제도에 깃든 공공의 신뢰가 무너진다면 민주주의 자체가 유지되기 힘들어집니다. 우리가 이러한 심각한 이슈에 대응하는 방식이 매우 중요합니다. 이 문제는 이러한 컨텐츠로 무엇을 할 것인지에 관한 고민이며 이에 어떤 이름을 붙일까에 관한 생각입니다. 또한 이 문제는 사람들이 그들의 책임감을 인식하느냐에 관한 것이기도 합니다. 만약 진실성에 대해서 100% 확신하지 못하는 컨텐츠라면 다른 사람들과 공유하지 마시길 바랍니다. 그런 위험을 감수할만한 가치가 없는, 거짓된 컨텐츠이며 행동이기 때문입니다.