본문 음성으로 듣기

중지

멈춤

이어듣기

원문 보기: How a deepfake Tom Cruise on TikTok turned into a very real AI company

올해 2월과 6월 사이에 틱톡에는 톰 크루즈가 사탕을 먹거나, 동전 마술을 선보이거나 노래를 부르는 등의 동영상들이 올라오기 시작했다. 이 영상 속에서 그는 표정, 머리카락 뿐만 아니라 킥킥거리며 웃는 그의 특유한 웃음을 가지고 있는 등 실제 톰과 똑같아 보였지만 그는 진짜가 아닌 딥페이크로 만들어진 사람이었다. 그것은 시각 및 인공지능 효과 아티스트인 크리스 우메Chris Umé가 톰 크루즈의 스탠드인 배우 마일즈 피셔Miles Fisher의 도움을 받아서 만든 동영상이다.

이 동영상은 틱톡에서 수천 만의 ‘좋아요’를 받으며 큰 인기를 끌었고 이는 우메가 ‘메타피직Metaphysic’라는 회사를 시작하는 계기가 되었다. 이 회사는 딥페이크를 사용하여서 불가능한 광고를 만들고 오래된 영상을 복원한다. 메타피직의 대표적인 프로젝트에는 젊은 디온 센더스Deion Sanders를 재현한 질레트 면도기 캠페인과 두 명의 사망한 벨기에 팀 감독을 되살린 벨기에 축구 협회 캠페인이 있다.

이 딥페이크는 나쁜 목적을 위해 사용될 수 있어 논란이 많다. 2017년 레딧Reddit에 게시된 딥페이크 비디오에서는 유명인의 얼굴이 포르노 스타의 얼굴로 바뀌어 있었고 그 이후로 이 기술은 합의되지 않은 음란물을 만드는 데 사용되었다. 사람들은 또한 딥페이크가 대중을 속이는데 사용될 수 있다고 경고했다.

그러나 우메와 공동 설립자들은 이 기술이 재미있을 수 있고 이전과는 다른 형태의 미디어 분야의 위업을 달성할 수 있다고 확신한다. 딥페이크를 사용하여 연예인을 더 젊게 보이게 할 수 있고 광고를 포함한 모든 유형의 콘텐츠를 제작하는 데 실제 촬영장에 있을 필요없이 모든 작업을 수행할 계획이 있다고 이야기한다.

이제는 온라인에서 딥페이크를 찾는 것이 쉬워졌고 일부 앱 에서는 직접 만들 수도 있다. 그러나 이런 비디오는 조작되었음을 쉽게 알 수 있는 경우가 많다. 메타피직의 제작자들은 이 동영상이 보기 좋고 매끄럽게 보이려면 많은 노력이 필요하다고 말한다. 우메가 제작한 비디오의 경우 비디오와 이미지에서 AI 모델을 훈련하는 데 약 2개월 반을 보냈고 가능한 한 많은 각도와 조명 조건에서의 그를 만들어내려고 노력했다고 말했다. 우메는 또한 딥페이크를 위한 기본 비디오를 촬영해야 했다. 우메는 피셔와 크루즈의 얼굴을 결합한 딥페이크 비디오를 생성하는 데 2~3일이 걸렸고 AI 도구를 사용하여 비디오 품질 향상과 같은 작업을 수행하는 데 약 24시간이 더 걸렸다.

우메는 그가 AI를 사용하여 패러디한 다른 유명인의 불만을 듣지 못했다. 그는 크루즈가 반대하면 동영상을 삭제하고 틱톡 계정에 대한 통제권을 넘겨주겠다고 하며 연락했다고 말했다. 우메는 유명인 중 누군가가 내가 만든 것에 대해 좋지 않은 감정을 느끼면 그것은 자신의 의도가 아니기 때문에 그가 직접 그것을 내릴 것이라고 말했다.

번역&요약: 은나연

이 기사를 통해서 저런 실제 같은 딥페이크 영상을 만들려면 정말 많은 공이 들어간다는 것을 알게 되었다. 하나의 정교한 영상을 만들기 위해 사람을 섭외하고 몇 달이 걸렸다는 것을 보며 내 생각보다 더 많은 노력이 필요하다는 것을 알게 되었다.

틱톡을 하지 않지만 인스타를 할 때 자신의 얼굴에 연예인의 얼굴을 합성한 딥페이크 동영상을 본 적이 여러 번 있다. 신기하기도 했지만 좀 불편하기도 했고 그 연예인이 이런 것을 보면 기분이 안 좋을 것 같다. 그 동영상들은 완벽하지 않아서 딱 봐도 합성했다는 것을 알 수 있었다. 그런데 우메가 틱톡에 올린 동영상들은 합성했다는 것을 알아보기 힘들었다. 사람들이 착각하기 정말 쉽겠다는 생각이 들었다. 이런 동영상에는 가짜라는 것을 알려주는 메세지를 확실하게 보여주는 것이 중요하다고 생각한다.

또 그는 크루즈가 싫어하면 영상을 삭제하고 틱톡 계정 통제권을 넘기겠다고 했는데 그 전에 이미 전세계의 수많은 사람들이 영상을 보고 재생산하거나 저장하여 퍼뜨릴 수 있기 때문에 동영상을 올리기 전에 영상 속 주인공에게 양해를 구하는 것이 중요하다고 생각한다.

이 기술을 사용하면 연예인들의 피부보정을 더 쉽게 할 수 있을 것 같다. 또 미래에는 연예인들의 동의만 구하고 촬영장에서 직접 찍지 않고 그들을 광고에 넣을 수 있을 것 같고 또 나아가 딥페이크로 만들어낸 배우가 나올 수도 있을 것 같다.

이 기술은 너무나도 위험한 기술이라는 생각이 든다. 사람들이 함부로 사용하면 안 되는 기술 말이다. 인터넷이 무진장 발달한 현재 정보가 퍼지는 건 시간 문제이다. 기사에서 우메라는 사람이 이미 영상을 제작한 뒤에 톰 크루즈가 반대한다면 동영상을 삭제한다고는 했지만 이미 세계적으로 퍼진 정보는 회수하기 거의 불가능하다. 인공지능을 이용한 기술 중 이 기술이 가장 무섭고 두렵다. 아무리 조작되었음을 쉽게 할 수 있다고 해도 이제야 발전하기 시작한 마당에 미래에는 아예 구분할 수가 없을 지경에 도달할 것이다. (이미 그럴 수도 있다.) 아무리 이 기술이 사람들에게 긍정적인 영향을 미칠 수 있다고 하여도 그렇게 긍정적으로 쓰인 산출물마저 악용될 수 있다. 이에 대해 기술자들에게 교육을 한다고 해도 악용한다면 어떻게 할 방법이 없다.

딥페이크 기술이 발달해서 많은 사람들이 손쉽게 사용할 수 있는 것은 좋은 일이다. 하지만 그럴수록 문제는 많아진다. 여기에서는 동의를 구하지 않고 사용한 문제만 말했지만 이외에도 어떤 사회 문제를 희화화 하거나 조롱하기 쉬워지고 악의적으로 편집해서 특정인을 비하하는 사람들이 늘어나는 문제들도 있을 것 같다. 그리고 나연이가 언급한 것처럼 좋지 않은 감정을 느끼면 내리겠다는 말은 정말 말이 안 된다고 생각한다. 애초에 먼저 동의를 구해야 한다. 당사자가 불쾌한 감정을 표현할 때는 이미 다 퍼져 있는 상태일 가능성이 높기 때문이다. 그리고 저런 기술로 유명해지고 돈을 벌게 된다면 당사자의 동의 없이 유명인을 상업적으로 이용하는 것이 아닐까 하는 생각이 든다.

딥페이크 기술은 주로 합의되지 않은 음란물을 만드는 데 자주 사용되었다. 이 기술의 무서운 점은 상대의 동의 없이 악의적 편집을 통해 남을 속일 수 있다는 점이다. 이 기사에서 나온 딥페이크 동영상 제작자인 우메는 유명인 중 누군가가 자신이 만들고 있는 것에 대해 기분을 나빠 한다면 영상을 내릴 것이라고 했는데, 영상은 이미 제작되어 퍼져 있고 이 발언은 배려 없고 무책임하다고 생각한다.

또한 그는 딥페이크 기술을 통해 나이 든 연예인을 더 젊게 보이게 할 수 있고, 특수 효과로도 상상할 수 없었던 미디어를 만들어낼 수 있다고 한다. 이러한 점들은 새로운 창작물 제작에 도움이 될 수 있지만 단순한 재미에 초점을 맞춰 윤리적 문제들에 무디어진 것 같다는 생각이 든다.

딥페이크 영상이면 모를까, 딥페이크로 구현된 어떤 연예인의 사진을 보고 정말 놀란 적이 있다. 당시에는 딥페이크가 지금처럼 논란이 된 적도 없었기 때문에 합성이라는 사실 말고는 다르게 생각할 방도가 없었다. 과거의 나처럼, 딥페이크에 대한 지식이 별로 없는 사람들은 영상과 사실이 허구임에도 불구하고 그대로 믿게 될 것이다. 딥페이크는 일단 이러한 사실에 대한 조치를 취해야 한다고 생각한다. 딥페이크가 사용된 후 유포되는 영상이나 사진에는 무조건 딥페이크라는 언급을 하거나 사실을 밝혀야 한다. 또한, 다른 사람의 얼굴이나 신체 부위를 사용할 경우에는 무조건 동의가 우선시되어야 한다. 나는 이 부분에 대해서는 이런 의문이 들기도 했다. 만약 이미 돌아가신 배우분들을 구현해서 영화를 만들고 싶고 그게 가능하다면 동의는 어떻게 구해야 할까? 이러한 사항들에 대한 명확한 해답이 제시되고 악의적으로 사용되지 않는다면 딥페이크라는 기술로 무수히 많은 일들을 해낼 수 있을 것 같다.

딥페이크기술도 점점 발전해서 의도에 따라 곧 쉽게 이용될 수 있겠지요. 반면에 이를 구별하는 기술과 관련 규제 법규가 절실하게 느껴지네요. 우리가 글을 써도 출처를 밝히고 주석을 다는 것이 중요한 것처럼요. 딥페이크 기술을 쉽게 이용하고 버리며 생각없이 소모하는 것에 대한 문제의식과 디지털교육이 꼭 필요할 것 같습니다(

이 기사를 통해 딥페이크 영상을 만드는 과정, 적절하게 활용될 수 있는 영역과 문제가 될 수 있는 부분도 알게 되었네요, 가짜(fake라)는 것이 반드시 명시 되어야하는 법이 있으면 좋겠네요, 사람들이 이것이 진짜인지 가짜인지는 알 수 있어야한다고 생각합니다,

평소 생각한 껄끄러운 부분들이 다 들어가 있네요. <딥페이크가 더 자연스러워지도록 = 완벽한 사기를 위한>, <죽은 사람을 소환한 광고 = 망자의 삐에로화. 눈 요깃거리> 정도로 생각이 드네요. 이미 윤리가 망가진 느낌인데, ‘윤리에 어긋나지 않는’이란 문구는 맞지 않아 보이고요. 결국 발전된 기술이 사람들의 재미와 욕구에 맞춰지고 있어 긍정적인 생각이 들지 않네요. 환경에 따라 인간의 욕구는 끊임없이 변하고, 그 욕구에 맞추려고 하니 윤리 의식은 갈수록 뒤로 밀리는 것 같습니다.