본문 음성으로 듣기

중지

멈춤

이어듣기

반려동물 사진을 올리면 사람처럼 옷을 입혀주는 인공지능 앱이 있습니다. 햄스터에게 선글라스를 씌우고 수영장에 앉히거나 고양이에게 하와이안 셔츠를 입혀주는 식입니다. 앱 이름은 ‘비에퍼(Viefur)’. 약 4달러를 내면 130개의 디지털 코인을 구입해 재미있는 사진을 만들 수 있습니다. 아이들도 좋아할 만한 평범한 AI 놀이 앱입니다. 그런데 이 귀여운 앱에는 끔찍한 비밀이 숨어 있었습니다.

최근 미국의 기술 전문매체 와이어드(WIRED)는 충격적인 조사 결과를 공개했습니다. 비에퍼를 비롯해 외국어 학습, AI 운동 코치 등으로 위장한 400개 이상의 앱과 웹사이트가 실제로는 성착취 딥페이크 제작에 이용되고 있다는 것입니다. 이 앱들은 사람의 사진 한 장만 있으면 동의 없이 성적인 이미지와 영상을 만들어냅니다. 심지어 성폭행이나 흉기로 위협하는 장면까지 선택할 수 있도록 만들어졌습니다.

더 놀라운 것은 이 앱들이 애플 앱스토어와 구글 플레이스토어에서 정상적으로 유통되었다는 사실입니다. 일부는 전체 연령 이용 가능 등급을 받았고, 확인된 앱들의 누적 다운로드는 35만 건을 넘었습니다.

어떻게 이런 일이 가능했을까요? 비밀은 앱이 사용자에 따라 서로 다른 얼굴을 보여주는 방식에 있었습니다. 앱을 실행하면 사용자의 접속 경로, 언어, 기기 식별정보 등이 운영 서버로 전달됩니다. 서버는 이 정보를 바탕으로 어떤 화면을 보여줄지 결정합니다. 평범한 사용자나 앱 심사 담당자에게는 귀여운 반려동물 사진 생성기가 나타납니다. 반면 특정 광고를 통해 들어온 사용자에게는 숨겨진 성착취 이미지 생성 화면이 열립니다.

이른바 ‘미끼와 바꿔치기(Bait-and-Switch)’ 수법입니다. 특히 앱의 실제 기능을 외부 웹사이트에서 불러오는 구조를 이용하면 앱스토어 심사를 통과한 뒤에도 화면과 서비스를 바꿀 수 있습니다. 애플은 실제로 일부 개발자가 심사 이후 연결된 웹사이트의 내용을 음란물로 교체했다고 설명했습니다.

이것은 단순히 부도덕한 개발자 몇 명의 일탈이 아닙니다. 조사에 참여한 보안 연구자들은 동일한 코드와 서버 설정을 공유하는 수백 개의 도메인을 발견했습니다. 중국어로 작성된 코드, 중국 내 호스팅 서비스, 홍콩에 등록된 케링 테크놀로지(KeLing Technology Limited)라는 회사와의 연결 정황도 확인했습니다. 다만 이 회사가 전체 조직을 직접 운영하는지는 최종적으로 입증되지 않았습니다.

운영 방식은 조직적인 상업 범죄에 가깝습니다. 수많은 앱을 만들고, 가짜 이름으로 광고를 집행하고, 이용자를 끌어들여 이미지 생성에 필요한 디지털 화폐를 판매합니다. 적발되어 앱 하나가 삭제되더라도 다른 앱과 웹사이트를 통해 사업을 이어갈 수 있는 구조입니다. 실제로 한때 일주일에 약 30개의 관련 앱과 웹사이트가 새로 등록되기도 했습니다.

이 과정에서 페이스북과 인스타그램은 중요한 유입 통로가 되었습니다. 연구자들은 수만 건의 관련 광고를 발견했으며, 그중에는 실제 아동의 사진을 이용한 성착취 딥페이크 광고도 포함되어 있었습니다. 메타는 대규모 광고 계정과 페이지를 차단했다고 밝혔지만, 취재가 끝날 무렵에도 유사한 광고와 앱은 계속 등장하고 있었습니다.

교육적으로 더 심각한 문제는 피해자가 앱을 사용한 사람이 아닐 수도 있다는 사실입니다. 누군가 SNS에 올린 평범한 얼굴 사진이 본인의 동의 없이 성착취 영상의 재료가 될 수 있습니다. 특히 아동과 청소년은 자신이 찍지도, 경험하지도 않은 장면의 주인공으로 만들어질 위험에 노출됩니다. 일단 이런 이미지가 유포되면 삭제하기 어렵고, 협박과 따돌림, 장기간의 심리적 피해로 이어질 수 있습니다.

또 하나 주목해야 할 것은 기술의 변화입니다. 과거에는 이런 조작에 상당한 기술과 시간이 필요했습니다. 이제는 사진을 올리고 미리 만들어진 장면을 선택하는 것만으로 결과물을 얻을 수 있습니다. 성착취 콘텐츠 제작의 기술적 문턱이 급격히 낮아진 것입니다. 여기에 결제 시스템과 광고 플랫폼까지 결합하면서 범죄가 대량생산과 유통이 가능한 산업의 형태를 띠기 시작했습니다.

이 사건은 AI 시대의 디지털 안전교육이 어디를 향해야 하는지 보여줍니다. 아이들에게 낯선 앱을 설치하지 말라거나 개인정보를 함부로 공개하지 말라고 가르치는 것만으로는 부족합니다. 자신의 사진뿐 아니라 다른 사람의 사진을 AI에 입력하는 행위에도 동의와 책임이 필요하다는 사실을 가르쳐야 합니다. 무엇보다 기술적으로 만들 수 있는 것과 윤리적으로 만들어도 되는 것은 전혀 다른 문제라는 인식이 중요합니다.

동시에 책임을 아이들에게만 떠넘겨서도 안 됩니다. 앱을 심사하는 애플과 구글, 광고를 유통하는 메타, 결제를 처리하는 플랫폼 모두가 이 범죄의 확산을 막아야 할 책임이 있습니다. 이용자에게 주의를 요구하기 전에 플랫폼의 안전장치가 제대로 작동하는지부터 물어야 합니다.

우리는 흔히 AI의 위험을 이야기하면서 인간보다 똑똑해진 기계가 언젠가 통제를 벗어날 미래를 상상합니다. 그러나 지금 우리 앞에 나타난 위험은 훨씬 현실적입니다. 인간의 악의를 값싸고 빠르게, 대규모로 실행할 수 있게 만드는 기술입니다.

아이들에게 가르쳐야 할 것은 AI를 능숙하게 사용하는 방법만이 아닙니다. 그 능력을 어디까지 사용해서는 안 되는지 판단하는 인간의 기준입니다.