본문 음성으로 듣기

중지

멈춤

이어듣기

원문 보기: What Happens When an AI Knows How You Feel?

2021년 5월, 남용과 성급함으로 악명 높은 플랫폼인 트위터는 사용자가 트윗을 보내기 전에 다시 한번 생각하도록 제안하는 “프롬프트 기능”을 출시했다. 그 다음 달 페이스북은 그룹을 위한 “AI 충돌 경고”를 발표하였는데, 이것은 그룹에 다툼이 있거나 건전하지 못한 대화가 발생했을 경우 관리자가 조치를 취할 수 있도록 하는 것이다. 2020년 출시된 아마존의 헤일로는 목소리 톤을 모니터링하는 피트니스 밴드이다. 이런 사례에서 알 수 있듯이 인공지능은 그저 기술적인 측면에서 활용될 뿐 아니라 부정적인 행동을 예측하고 예방하기 위한 알고리즘 치료 도구로도 개발되고 있다.

가정법 변호사 어머니 밑에서 자란 키순Kissoon은 이혼을 한 후 공동 양육을 하는 부부를 위한 일정 및 의사 소통 도구인 아워 패밀리 위저드OurFamilyWizard를 2001년 출시했다. 29년 동안 이 프로그램은 약 백만 명이 사용했으며 미국 전역에서 법원 승인을 받았다. 이 앱에는 감정 분석을 사용하여 전송된 메시지를 모니터링하는 “톤미터ToneMeter” 기능이 있다. 이 기능은 감정적으로 충만한 문구가 메시지에서 감지되면 신호 강도 막대 세트가 빨간색으로 바뀌고, 문제 단어에 플래그가 지정된다. 이 신호를 보고도 보내기를 누를지는 사용자에게 달렸다.

2019년 출시된 코패런트Coparent 또한 감정 분석을 사용한다. 부모는 문자를 통해 협상하고 메시지가 너무 적대적일 경우 마찬가지로 경고 팝업이 나타난다. 합의로 이어지지 않으면 시스템은 사람을 채팅에 참여시키는 옵션도 있다.

이러한 기능에 대해 키순은 톤미터가 부모가 긍정적인지 부정적인지의 정도에 점수를 매기는 것은 허용하지 않는다는 것을 알았으며, 카프Karpf는 이러한 앱이 사용자의 행동에 확실한 영향을 주었다고 한다. 하지만 공동 육아 앱은 문제를 조정하는 데 도움이 될 수는 있지만 문제를 근본적으로 해결할 수는 없다. 때로는 약화시키기도 하는데, 카프는 일부 부모가 앱을 무기로 만들고 “미끼” 메시지를 보내 배우자를 속이고 문제 메시지를 보내도록 유도한다고 한다.

공동 육아 앱만이 감정 분석에 집중하고 있는 것은 아니다. 커플, 또는 부모와 자녀 간의 유대감을 향상시키기 위해서 개발되는 앱도 있다. 심박수, 목소리 톤 및 언어로 하드웨어는 신체 활동 또는 부모와 자녀가 함께 있는지의 유무도 감지한다. 부부의 연구에서 알고리즘은 갈등을 감지하는 데 86% 정확했으며 전날 밤에 잠을 잤나? 운동을 했나? 등 상황 정보를 통해 인지 행동을 이용해 사용자에게 다음 행동에 대한 제안을 해주기도 한다.

감정 감지 AI는 고르지 못한 영역이다. 하지만 전염병 이후 화상 통화를 통해 치료 및 정신 건강 서비스가 더 많이 제공되고 있고 관계 상담 앱의 사용자도 늘고 있다. 이에 따른 감정 감지 AI의 발달에 대해 언급하며 기사는 AI가 우리의 관계를 너무 많이 차지한다면 과연 우리에게 남는 것은 무엇일까 라는 의문을 던진다.

번역&요약: 정세빈

SNS라는 공간은 나의 사소한 기록까지 모두 남고 순식간에 퍼지는 특성 때문에 조금은 무섭기도 했고 조그마한 행동일지라도 조심해야 한다고 생각해왔다. 그렇기에 이런 앱은 채팅을 할 때 다른 사람에게 함부로 대하지 않도록 경고해줄 수 있으니 유익할 것 같았다. 하지만 동시에 나도 내 감정을 잘 모를 때가 있는데 인공지능이 먼저 내 감정을 판별하고 경고를 주면 나는 내 상태를 정확히 인지하지도 모른 채로 그저 ‘내 감정이 이렇구나.’하고 받아들이게 되지 않을까? 오딧세이 시간에 미래를 예측하는 인공지능에 대한 기사를 본 적이 있는데 그때 ‘내가 내 미래를 아는데 현재가 의미가 있는 걸까? ‘라는 생각이 들었었다. 마찬가지로 내가 글을 씀으로써 내 감정을 인지하게 되면 사람들이 현재 자신의 감정을 중시하지 않게 되지는 않을까? 라는 걱정이 되기도 했다.

SNS 중에서도 트위터는 특히 ‘트윗’이라는 플랫폼을 통해서 자신의 충동적인 생각을 쉽게 많은 사람들이 접할 수 있는 공간에 내놓을 수 있다. 다소 편파적이고 치우쳐진 내용의 트윗을 쉽게 볼 수 있다. 이 트위터에 ‘프롬프트 기능’이 추가된다는 점은 정말 좋은 소식인 것 같다. 비록 제안을 무시할 수는 있지만 사람들에게 한 번 경고를 줌으로써 자신이 적었던 내용에 대해서 생각할 수 있는 기회를 주는 것이기 때문이다. 코패런트와 같이 문자, 채팅에서의 감정을 분석하여 경고를 주는 시스템에서는 이 기능이 과연 얼마나 효과적으로 문자에서의 공격성 등을 막을 수 있을지 궁금하다. 또한 사람들 간의 유대감을 향상시키기 위해서 개발되는 앱은 오히려 자녀의 권리를 침해하진 않을까 하는 생각이 든다. 자녀가 밤에 잠을 잤는지, 운동을 했는지 등은 부모가 신경을 쓸 수는 있는 부분이지만 내용에 따라 이러한 것들을 부모와 공유하려는 자녀가 많을지는 의문이 든다.

나도 여러가지 SNS 플랫폼을 이용하지만 트위터는 특히 과격한 말이 많이 오가고 혐오와 차별발언이 정말 많이 나오는 곳 같다. 그런 점에서 트윗을 보낼 때 자신의 말에 다시 한번 경각심을 가지게 하는 “프롬프트 기능”은 문제를 완벽하게 해결하진 못해도 도움을 줄 수 있을 것 같다.

인공지능이 인간의 대화에서 감정을 분석하고 경고를 준다는데 매우 신기하다. 아워 패밀리 위저드는 29년 동안 백만 명이 넘게 이용하고 미국 전역에서 법원 승인을 했다면 얻을 수 있는 효과가 큰 것 같다. 근데 평소에 말투가 조금 사나운 편인 사람, 감정을 잘 드러내지 않는 사람, 감정 표현이 서투른 사람들의 경우 어떻게 평가를 할지는 좀 의문이다. 그래도 폭력적이거나 위협적인 발언들은 대체로 걸러낼 수 있을 것이다.

기사에서 언급된 아워 패밀리 위저드라는 앱은 감정적인 문구를 감지하여 문제 단어에 플래그를 지정한다. 이 덕분에 사람들은 자신이 작성한 메시지를 한 번 더 점검하여 전송할 수 있다. 인공지능이 감정을 분석하는 영역은 텍스트, 음성, 표정 등 다양한데 인공지능이 인간의 감정을 감지할 수 있다는 점이 매우 흥미로웠다. 네이버에도 욕설과 비속어가 들어간 댓글을 자동으로 탐지해 블라인드 처리하는 클린봇이 있는데. 욕설이 없더라도 모욕적이거나 타인을 비하하는 표현이 있으면 악플로 인식한다고 한다. 인공지능이 문맥을 이해한다는 점이 신기하면서도 왠지 모르게 무섭기도 하다.

분명 인공지능의 순기능에 관련된 기사를 읽고 있는데, 답답함이 느껴진다. 인간관계에 인공지능 개입이 커지고 감정 조절까지 관여하게 된다면, 과연 인간에게는 무엇이 남을까? 대규모 데이터도, 개인의 감정선을 읽고 판단하는 것도, 법적 책임 관련한 판단도 인공지능의 영역이 되어버린다면 과연 인간에게 남는 것은 무엇일까?

이 세상 모든 사람이 슈퍼 개인이 되고 인공지능이나 양자컴퓨팅에 접근할 수는 없다. 결국 슈퍼 개인이 되지 못한 사람들은 그룹을 형성해서 그들만 뒤처져서 경쟁을 하게 될까? 그러면 데이터 세트의 모집단처럼 개인은 개성을 잃고 모두가 비슷해지는 것은 아닐까?

긍정적인 면을 먼저 보려고 해도, 부정적인 생각을 떨칠 수 없는 것은 새로운 것에 대한 본능적불안 때문이겠지?

사람의 감정을 읽는 AI. 기계가 내 감정을 읽고 판단하고 조언을 한다면, 나는 불편한 마음이 먼저 들 것 같다. 하지만 주변을 둘러보면 심리치료, 마음치료, 음악치료등의 간판을 흔하게 볼 수 있고, 감정을 치료해 주는 센터가 점점 늘어나는 것을 자주 볼 수 있습니다. 어떤 이유에서든 마음이 아픈 사람은 점점 더 많아지는 것 같다. 하지만 사람들은 몸이 아프면 쉽게 병원을 가지만마음이 아프면 쉽게 센터를 찾자 못한다. 망설이는 이유는 여러가지가 을 것이다. 사람들의 시선, 상담시간, 비싼 상담료, 자존심 등등…. 이런 앱들이 감시나 경고가 아닌 상대방의 이야기를 들어주고, 공감해주는 목적으로 사용되면 어떨까 싶습니다.

여러 가지 상황에서 감정은 발생한다. 그 감정을 제대로 바라보지 못하면 감정 그대로 행동으로 나타난다. AI앱이 아니라 내가 느끼는 감정을 알아차리는 인간의 노력이 있어야 인간관계를 좀 더 쉽게 풀어갈 수 있을 거라 생각한다. 지금 짜증날 때, 내가 지금 짜증이 나는 사실을 알아차리는 연습부터! 그리고 그 감정은 누구의 것도 아닌 내 자신의 것이라는 걸 알아야 한다. 그리고 감정을 조절하고 나서 말이나 행동을 신중하게 할 수 있다는 사실!  그런데, 이 노력은 죽을 때까지 해야 될 거 같다. ㅠㅠ