AI가 만드는 가짜 세상

가짜를 구별할 수 있는 것은 진짜가 존재하기 때문이다. 아무리 정교하게 만들어진 위조 지폐라하더라도 전문가나 기계 장치에 의해 결국 들통나기 마련이다. 진짜와 가짜의 구별이 가능하기 때문이다. 그렇다면 진짜가 없는 가짜, 구별할 수 없는 가짜가 존재할 수 있을까? 모순 같지만 인공지능은 이것을 가능하게 한다. 모방이나 짝퉁이 아닌 가짜, 진짜 같은 가짜 세상을 인공지능은 예고하고 있다.

생성적 적대신경망(Generative Adversarial Network, GAN)은 인공지능을 한 차원 더 끌어올린 놀라운 기술이다. AI 전문가 이언 굿펠로우가 2014년에 개발했다. 인공지능의 사물 인식 능력은 그 전까지는 사람의 지도학습을 필요로 했다. 수천 장의 다양한 고양이 사진을 보여주면 AI 신경망이 특정한 패턴을 찾아내 고양이로 인식하고, 복잡한 알고리즘을 통해 고양이 모습을 그려낼 수 있었다.

GAN은 서로 상반된 두 개의 AI 신경망이 작동한다. 이 둘이 서로 경쟁하며 이미지를 인식하고 생성하는 방식이다. 판별자(Discriminator)라고 불리는 AI 신경망은 진짜와 가짜를 구별하는 방법을 학습하고, 생성자(Generator)라는 신경망은 진짜 같은 가짜 이미지 만드는 방법을 배운다. 두 신경망이 서로 대립하고 경쟁하고 보완하면서 보다 정확하고 정교한 이미지를 만들어낸다.

사람의 지도가 필요 없는 GAN은 인공지능 스스로 진화 발전하는 토대를 만들었다. 시간과 데이터를 절약하고, AI의 창의성을 높이며, 미래를 예측하는 기술로 나아가는 디딤돌 역할을 하게 될 것이라는 전망이다. 하지만 적대적 신경망의 견제와 균형이 이상적일 수만은 없다. 가령 하나의 신경망이 실제 같은 개의 모습을 만들면 또 다른 신경망은 일반적인 개의 특성을 적용해 개가 맞는지 여부만 판별할 뿐 현실 속의 개인지 그렇지 않은지는 알 수 없다는 것이다.

엔비디아는 GAN을 활용해 유명인사와 닮은 것 같지만 전혀 다른, 세상에 존재하지 않는 완벽한가짜 인물 사진을 만들어냈다. 이렇듯 GAN은 진짜 같은 가공의 인물을 얼마든지 창조할 수 있다. 이미지뿐 아니라 목소리, 동영상도 만들어낸다. 오바마 전 미국 대통령의 가짜 립싱크 영상도 GAN 기술을 이용했다. 지금도 SNS에 가짜 계정이 많지만 앞으로는 진짜를 능가하는 가짜가 SNS에서 적극적으로 활동할 가능성이 있다. 유명 인사의 얼굴을 억지로 끼워 놓은 포르노가 아닌 진짜 같은 가짜 포르노가 범람할 수도 있다. 실존 인물이 아닌 만큼 법적 규제도 모호하다.

이언 굿펠로우는 GAN의 적대적 두 신경망을 위조 지폐범과 경찰 관계로 설명했다. 필사적으로 칼과 방패 역할을 하면서 기술의 발전을 극대화 해나간다는 것이다. 이 과정에서 진짜와 구별할 수 없는 가짜를 만드는 첨단의 기술이 축적되겠지만 문제는 결국 방패가 칼을 막아내지 못하게 되는 현실이다. 가짜의 범람이 뉴스나 정보를 넘어서 앞으로 사진과 영상, 오디오 전반으로 확대될 가능성이 제기된다. 세계적인 IT 시장조사 기관인 가트너는 인공지능에 의한 ‘위조 현실(counterfeit reality)’이 이것을 탐지하는 AI의 능력을 앞서면서 디지털에 대한 불신으로 이어질 것이라고 경고했다.

인쇄하기