아마존의 연례 개발자 회의인 Re:Mars 컨퍼런스에서 Alexa의 수석 부사장인 로히트 프라사드Rohit Prasad는 음성 비서 알렉사의 새로운 기능, 즉 누구의 음성이라도 쉽게 흉내내는 기능을 선보였습니다. 아마존은 이 기능이 언제 일반에게 공개될 지 여부를 밝히지는 않았지만 이미 논란은 시작되었습니다.
다른 사람의 목소리를 흉내 낼 수 있는 이 기능을 아마존은 우선 잃은 지인을 추모하는 방법으로 도입할 의도를 내비쳤습니다. 프라사드는 “AI가 상실의 고통을 없앨 수는 없지만 추억을 오래도록 남길 수는 있다.”고 말했습니다. 데모 영상에서는 알렉사가 최근에 돌아가신 할머니의 목소리로 아이에게 책을 읽어주는 장면을 재생하고 있습니다. (영상의 40초부터…)
프라사드는 또 회사가 죽은 사람을 되살리는 것 외에도 AI를 가능한 한 개인화 할 수 있는 여러가지 방법을 찾고 있다고 강조했습니다. 보안 전문가들은 텍스트 음성 변환 기술을 사용하여 합성 음성을 생성하는 딥 페이크 오디오 도구가 새로운 사기의 홍수를 일으킬 수 있다고 오래 전부터 경고하고 있습니다. 2020년에는 아랍에미리트연합에서 사기범이 음성 복제 소프트웨어를 사용한 은행 이사의 가짜 음성으로 은행 관리자를 속여 3,500만 달러를 송금한 사건이 있었습니다.
아이들이 좋아하는 사람의 목소리로 책을 가까이하거나 아침에 잠을 깨울 수 있다면, 여러분은 이 알렉사의 유혹을 거부할 수 있을까요? 아이들은 원하는 목소리로 말을 걸어오는 알렉사를 어떻게 생각할까요?
어제 퇴근길에 큰아이에게 이 글을 읽고 생각을 해 본 후 제 댓글을 읽어달라 청했습니다.
아이가 글을 읽자마자 “잠잘 때 부모들이 애들한테 책 읽어주기 힘든데, 이걸로 잠들 때까지 읽어주면 되겠다.”였어요.
산 자에게 대입되는 가장 효과적인 방법이면서 내 목소리를 가장 효율적으로 빼돌릴 방법 같더라고요.
그리고 아침인 지금 드는 생각은….
부모가 책을 읽어줄 때의 인간적인 면이 사라지고 또렷한 목소리만 들려주는 게 좋은 걸까?
부모가 먼저 졸면서도 졸음을 꾹 참고 내는 목소리, 아이 곁을 지키는 공간적 따스함,
책 읽다 잠든 아이를 확인하고 토닥거리며 잘 자라 뽀뽀하거나 터치하는 것…. 들도 중요한 거잖아요.
물론 저처럼 먼저 잠들기 바쁘고, 책 읽어주기 힘든 부모에게는 차선책이 될 수 있겠지만,
대부분 가정이 이 차선책을 최선이라 여겨, ‘아이에게 들리는 책 읽는 내 목소리’에 만족하는 거로 끝나는 게 아닐까 싶어요.
제 댓글에 대해서는 보편적으로 느끼는 생각과 두려움이 아닐까 하던데,
같은 주제에 대해 같이 읽고 글을 동시에 써 볼 시간과 마음의 여유가 없다는 게 슬펐습니다.
그래도 ‘딥페이크 목소리’는 처음 들었다는 말에 좀 뿌듯하더라고요.
난 이미 밴드 글로 봤는데~~~
뭐 어쩌라는 건지…. ㅎㅎ
일단 공포든 두려움이든 뭔가 알고 생각해 볼 시간이 있다는 게 좋습니다^^