우리가 만든 도구가 우리를 다시 만든다

사람과 인공지능의 상호작용은 단순히 새로운 도구 사용법을 익히는 차원을 넘어섰습니다. AI와 대화하는 순간, 우리는 마치 사람과 대화하듯 반응하고, 거기에서 비롯되는 심리적 효과는 기존의 인간-컴퓨터 상호작용(HCI, Human-Computer Interaction) 이론으로 설명하기 어려운 새로운 변화를 만들어내고 있습니다.

1970년대, 아모스 트버스키^{Amos Tversky}와 대니얼 카너먼^{Daniel Kahneman}이 밝혀낸 바와 같이 인간의 의사결정은 합리적 최적화가 아니라 체계적인 편향에 따라 움직입니다. 이후 반세기 동안 심리학과 컴퓨터 과학은 긴밀히 연결되며 HCI가 발전해 왔습니다. 1980년대부터는 스튜어트 카드^{Stuart Card}, 토머스 모란^{Thomas Moran}, 앨런 뉴웰^{Allen Newell}같은 연구자들이 인지 과정을 반영한 인터페이스 설계를 이끌었고, 도널드 노먼^{Donald Norman}의 ‘멘탈 모델’(Mental Models), 벤 슈나이더만^{Ben Shneiderman}의 ‘직접 조작’원칙은 사용자 중심 설계의 기반이 되었습니다. 1990~2000년대에는 사용성 공학과 사용자 경험디자인, 그리고 인지 부하 관리, 기술 수용 이론이 등장했습니다. 2010년대에는 음성 비서, 챗봇 추천 알고리즘, 소셜 로봇등 ‘자율성’을 띤 시스템이 확산되었지만, 여전히 컴퓨터를 도구로 보는 시각을 벗어나지 못했습니다.

그러나 대규모 언어 모델(LLM, Large Language Model)과 생성형 AI(Generative AI)의 등장은 이 전제를 뒤흔들었습니다. 같은 길 찾기 요청이라도 “최적의 경로를 계산해줘”와 “회의에 늦을 것 같은데 빨리 갈 수 있는 길을 알려줄래?”라는 말은 사용자에게 전혀 다른 심리적 반응을 일으킵니다. 후자의 경우 사람들은 AI를 단순한 도구가 아닌, ‘도움을 주려는 존재’로 인식합니다. 이것은 도구 조작이 아니라 사회적 인지 즉 인간과 협력할 때 발동하는 심리 회로가 AI와의 상호작용에까지 확장되고 있음을 보여줍니다.

여기에는 여러 가지 체계적인 편향이 나타납니다. 같은 정보를 제공하더라도 대화형는 더 지능적이고 신뢰할 만하다고 평가받습니다. AI의 말투와 성격은 사용자 감정에 영향을 주고, 그 효과는 대화가 끝난 후에도 이어집니다. 또 사용자는 AI와 함께 문제를 풀었다고 착각하며, 자신의 기여를 과대평가하는 동시에 AI에 창의적 의도를 부여합니다.

더 나아가, AI는 인간의 편향을 단순히 모방하는 데 그치지 않고 이를 증폭시킵니다. 고전적 편향 실험에서 AI는 인간보다 훨씬 큰 효과 크기를 보입니다. 게다가 인간에게는 없는 새로운 편향도 드러납니다. 질문을 “해야 합니까?”와 “하지 말아야 합니까?”로만 바꿔도 답변이 뒤집히는 ‘문장 민감성 편향’(Response Ordering Sensitivity), AI의 답변을 사람보다 더 쉽게 받아들이는 ‘알고리즘 권위 편향’(Algorithmic Deference Bias), 유창한 말투일수록 더 정확하다고 믿는 ‘유창성 편향’(Fluency Bias) 등이 그것입니다.

이러한 편향은 인간 심리에 그치지 않고, 인간관계로까지 이어집니다. 어린이가 AI 스피커에게 공격적으로 말하면 친구들에게도 공격적 태도를 보이는 경향이 나타납니다. 어른 역시 AI에 감정 조절을 의존할수록 인간관계에서 감정을 다루는 능력이 줄어든다는 연구 결과가 있습니다. 결국 AI와의 상호작용은 인간 사회적 인지 구조를 재편하고 있습니다.

이 과정은 우리가 원하든 원치 않든 가속화되고 있습니다. 인간은 의도와 의식을 가진 존재와만 언어를 주고받으며 살아왔습니다. 그런데 지금은 언어적 유창성과 친근함만으로도 AI에 지능과 의도를 부여합니다. 동시에 AI는 인간 데이터를 학습하며 인간의 편향을 강화하고, 다시 그 결과를 인간이 받아들이는 닫힌 순환 구조가 형성되고 있습니다.

문제는 우리가 이 변화를 의식적으로 설계하고 있는가 하는 것입니다. 지금처럼 단편적인 기술적 해결책만 찾다 보면, 인간 심리의 근본적 재구성이 무의식적으로 진행될 수밖에 없습니다. 앞으로 가능한 경로는 크게 세 가지입니다. 인간의 핵심 심리 기능을 보존하면서 AI와 함께 진화하는 ‘의식적 공진화’(Conscious Co-Evolution), AI 의존을 전제로 안전장치를 두는 ‘관리된 의존’(Managed Dependency), 그리고 아무 대책 없이 흘러가는 ‘무의식적 표류’(Unconscious Drift). 선택은 앞으로 2~5년 안에 결정될 것입니다.

카너먼과 트버스키가 인간 의사결정의 편향을 체계적으로 밝혔듯, 이제는 인간-AI 상호작용이 만들어내는 새로운 심리적 구조를 정량적으로 측정할 틀이 필요합니다. 의도 부여, 편향 증폭, 인간관계 전이, 그리고 장기적 인지 구조 변화까지, 이를 종합적으로 연구해야 합니다. 그렇지 않으면 AI는 인간을 돕는 도구가 아니라, 인간 의식을 무의식적으로 재구성하는 힘으로 작동할 수 있습니다.

결국 선택은 우리에게 달려 있습니다. 우리가 만든 도구는 결국 우리 자신을 다시 만들 것이고, 시간을 되돌릴 수는 없습니다.

인쇄하기