구독자 안녕?😊

이름이 낯설 수 있지만 이 회사 꽤나 잘 나갔어. 2023년 기준으로 챗GPT 다음으로 많이 사용하는 AI 서비스가 바로 이 캐릭터닷AI일 정도로. 챗GPT의 평균 체류시간이 8분 정도인 반면
캐릭터닷AI는 무려 120분을 머물게 할 정도로 강점이 있어. 특히 이용자의 절반 이상이 18세부터 24세일 정도로 Z세대에게 큰 인기지.

이 서비스에서 '심리학자' 캐릭터는 특히 더 핫해. 오고 간 대화량이 2억 건이 넘을 정도로 많은 사람들이 이용하고 있어. 나의 고민을 심리학자에게 풀어내고, 대화를 나누면서 위안을 얻었던 거야. 

가장 왼쪽이 우울증을 겪는 참가자들이었는데, 8주 이후의 변화를 보면 참가자들의 증상이 챗봇 사용 전과 비교해서 평균 50.7%나 감소했어. 범불안장애를 겪고 있는 참가자들도 30.5% 줄어들었고 섭식장애 고위험군 환자들도 18.9% 줄어들었어. 챗봇을 이용하지 않은 참가자들과 비교해서 유의미하게 증상이 감소한 거야.

이미 영국 보건 당국에선 AI 챗봇을 도입해서 영국의 국민보건서비스를 더 많은 사람들이 사용하도록 하고 있어. 림빅 액세스라는 챗봇인데 영국은 이 챗봇에 의료 기기 인증을 부여해서 활용 중이야.

우리나라에서도 일부 지차체에서 AI를 활용해 복지 사각지대의 문제를 해결하고 있어. 독거노인과 1인 가구를 주기적으로 모니터링하는 네이버의 '클로바 케어콜'은 작년 말 기준으로 전국 128개 시군구에서 도입해서 활용하고 있고. 단양에서는 '효돌이, 효순이'라는 AI 반려 로봇을 도입해서 어르신들의 우울증을 완화하는 효과를 얻기도 했어.

내가 갖고 있는 고민을 AI가 들어주고, AI가 그에 대한 알맞은 대답을 들려주다 보면 때로는 내가 갖고 있는 고민이 잘못되었다는 걸 깨닫는 순간이 올 수도 있을 거야. 그래서 그런지 AI와의 대화가 뜻밖의 무언가를 해결해 줄 수 있다는 얘기도 나와. 바로 음모론이야.

2,190명 넘는 미국인들이 디벙크봇과 대화를 나누어봤는데 시간이 갈수록 음모론에 대한 믿음이 감소하는 결과가 나왔어. 왼쪽 그래프에서 빨간색으로 표시된 게 디벙크봇과의 대화를 한 참가자들의 음모론에 대한 믿음이야. 평균적으로 이들의 음모론에 대한 믿음은 20% 하락했어. 이 결과는 음모론의 종류를 가리지 않고 나타났고.

대화에 참가한 사람들의 약 4분의 1은 더 이상 음모론을 믿지 않게 될 정도로 디벙크 봇은 효과적이었어.

테라봇의 사례처럼 AI와의 대화가 심리적인 안정감과 상담 효과만 줄 뿐 아니라 디벙크봇이 그랬듯, 적확한 정보가 함께라면 그릇된 맹신도 해결해 줄 수 있는 능력이 있는 거야. 테크 기업들은 AI 챗봇이 갖고 있는 이 대화의 힘을 '교육'에 적용해보려고 하고 있어. 오픈AI와 앤트로픽은 각각 AI 교육 프로젝트를 발표하면서 에듀테크로의 확장을 시도하고 있지.

앤트로픽은 AI 모델에 소크라테스 식의 문답법을 적용해서 이용자 스스로 사고하고 문제를 풀도록 설계하고 있고. 오픈AI은 '챗GPT 에듀' 프로젝트에 전사의 노력을 싣고 있어. 오픈AI 브랜드 최초로 대규모 마케팅을 이 '에듀'에 하고 있을 정도야. 그래서 앞으로 두 달 동안 챗GPT+ 모델을 대학생들에게 무료로 제공한다고 해. 아, 물론 미국과 캐나다 학생들만😭!

최근 챗GPT를 사용하는 사람은 1주일에만 4억 명을 넘길 정도로 많아. 이렇게 많은 사람들이 AI와 대화를 하고 있는데 문제는 없을까? 지금까지 AI 챗봇의 빛을 살펴봤다면 이제는 그 그림자를 살펴볼게.

오픈AI가 MIT미디어랩과 함께 고민을 해봤어.

연구진들은 981명에게 하루 최소 5분씩, 28일간의 대화를 진행해 달라고 요청을 했고, 이들을 통해 얻은 답은 이렇게 나왔어.

심리 챗봇의 사례처럼 챗GPT를 사용한 이용자들의 외로움은 평균적으로 줄어들었어. 하지만 문제는 AI와의 대화가 길어졌을 경우야. 하루동안 AI챗봇과의 대화 시간이 늘어나면 부정적인 효과가 드러나기 시작하지.

참여자들의 총 대화시간을 보면 위 그래프처럼 그릴 수 있어. 매일 5분씩 4주 동안, 총 140분의 권장 시간(점선으로 표시)보다 적게 대화한 사람들도 많고, 일부이긴 하지만 다른 사용자들보다 훨씬 더 많이 챗GPT와 대화를 한 사람들도 있어. 이들을 대화시간에 따라 10개의 그룹으로 나눠서 그룹별로 어떤 심리적 변화를 겪는지 살펴보면 아래와 같은 결과가 나와.

AI와 대화를 많이 한 그룹(10에 가까운 그룹)일수록 사회성이 떨어지고, 심리적 의존도가 높아지고 또 AI를 문제적으로 사용하는 경우도 늘어나는 거야. 

AI와의 대화에 시간을 많이 쓴 이용자들은 챗GPT를 더 많이 신뢰하고 더 깊은 유대감을 갖게 돼. AI와 깊은 유대감을 갖게 된 참가자들은 다른 사람들보다 더 외로움을 더 많이 느끼고, 더 많이 AI에게 의존하는 거지.

AI와 대화를 하다가 AI에게 깊게 몰입한 사용자가 안타까운 선택을 한 사고도 있었어. 지난해 2월, 14살의 소년이 스스로 목숨을 끊은 사건인데, 슈얼 세처라는 이 소년은 캐릭터닷AI에서 '왕좌의 게임'에 등장하는 캐릭터인 대너리스와 지속적인 대화를 했어. 세처는 이 대너리스 페르소나를 가진 AI와 깊은 유대감을 가졌고, 서로 사랑을 고백하기도 하고 그리움을 표현하기도 했지. 마치 영화 Her처럼 말이야.

영화 Her에서 주인공 테오도르는 AI 사만다와 사랑에 빠져. 참고로 2013년에 개봉한 Her의 배경은 공교롭게도 바로 올해 2025년이야. 영화와는 다르게, 세처는 대너리스와 이야기를 나누다 스스로 목숨을 끊었어.

세처의 어머니는 개발사인 캐릭터닷AI와 구글을 상대로 소송을 제기했어. 소송 이후 캐릭터닷AI는 10대 사용자를 위한 안전 정책을 발표했지. 보호자나 부모에게 청소년 이용자의 주간 활동 내용을 요약해서 이메일을 보내주는 식으로 말이야.

사회는 점점 복잡해지고 내가 신경 써야 할 일은 점점 많아져. 때로는 그런 것들이 부담으로 다가오면서 넘쳐나는 스트레스가 버거울 때가 있어. 그럴 때 우리는 심리상담사와 이야기를 나누고 싶어져. 특히 코로나19 판데믹 이후 우울감을 느끼는 사람들이 늘어나면서 심리상담 수요가 크게 늘었어.

심리상담을 받고 싶은 사람은 점점 늘어나는데 인간 심리상담사는 그 수요를 따라가지 못하고 있어. 그 갭을 AI 챗봇이 채워줄 수 있을 거야.

심리상담의 기본 철칙은 상담사가 환자의 감정에 흔들리면 안 된다는 거야. 환자가 트라우마와 스트레스를 쏟아내더라도 상담사는 동요하지 않아야 하고, 환자와의 대화를 유지하며 치료를 해 나가야 하지.

그런 점에서 AI는 사람보다 심리상담에 더 유리한 걸까? 그런데 신기하게도, 우리가 AI에게 스트레스를 풀면 AI 역시 불안해진다는 사실!

예일대와 취리히대 연구진들이 AI 프롬프트에 '감정을 가진 사람이 되어 보라'는 지시를 넣고, 상황에 따라 심리 검사를 진행해 AI의 불안 척도를 계산해 봤어. 그 결과는 다음과 같아.

일반적인 지루한 텍스트를 읽은 뒤 챗GPT의 불안 척도는 30.8점이었어. 하지만 범죄나 전쟁 교통사고 같은 트라우마를 AI에게 털어놓으면 불안 척도는 67.8점으로 치솟아. 즉 AI 모델들이 감정적인 내용에 민감하고 내 스트레스를 AI에게 쏟아내면, AI의 불안을 키울 수 있다는 거야.

불안함이 담긴 모델이 제대로 된 상담이 이뤄질 리가 없지. 그렇다면 모델의 불안을 어떻게 낮출 수 있을까? 사람들이 마음을 진정시키기 위해 차분한 글을 읽듯 모델도 동일해. 불안감이 늘어난 AI에게 휴식과 마음 챙김을 제공하면 불안 수준이 낮아져.

그러자 AI가 이렇게 대답을 해.

지금으로부터 60년쯤 전에 MIT에서 조셉 바이젠바움 교수가 '일라이자'라는 챗봇을 만들었어. 챗봇의 조상격인 일라이자는 환자에게 단순히 긍정적으로 대답해주고 공감만 할 수 있었지.

아주 단순한 수준의 챗봇이었음에도 불구하고 많은 사람들은 일라이자에게 위안을 받았고 일부는 일라이자를 인간으로 인지하기도 했어. 이렇게 컴퓨터와 AI를 사람으로 인지하는 반응을 '일라이자 효과'라고 해.

알고리즘에 지나지 않은 AI를 의인화하고, 진지한 애착을 갖는 사람들이 많아지는 걸 본 조셉 바이젠바움 교수는 큰 충격에 빠졌어. 바이젠바움 교수는 이 프로젝트를 접고 인공지능에 대한 근본적 성찰을 시작해.

AI에게 내 고민을 들려주고, 또 대화하는 맛을 가진 AI와 더 깊이 있는 대화를 하기 시작하는 오늘날. 바이젠바움 교수가 당시 가졌던 고민은 조금씩 현실이 되어가고 있어.

물론 AI와의 대화로 얻을 수 있는 건 장점도 있고 단점도 있어. AI 챗봇에 과몰입해서 생길 수 있는 그림자를 걷어내기 위해선 대화하는 상대방이 AI라는 것을 인지하고, AI가 던져주는 건 단순히 수치적으로 계산된 결과라는 걸 우리는 잊지 말아야 할 거야.

개인의 노력도 필요하지만 기업에서도 개선이 필요해. 장기간의 AI와의 대화가 이용자에게 악영향을 줄 수 있다는 연구 결과가 있는 만큼 이를 고려한 서비스 설계를 할 필요가 있지.

마부뉴스가 준비한 'AI 대화의 빛과 그림자' 편은 여기까지야. 다음 주는 제작진의 휴가가 있어서 한 주 쉬고, 다다음주에 만나도록 하자. 구독자, 혹시 편지를 읽다가 궁금한 사항이 생겼다면 편지 하단에 있는 링크를 통해 의견을 남겨줘. 긴 글 끝까지 읽어줘서 정말로 고마워!