외로움을 달래주는 AI에 빠진 MZ세대…전문가들은 "위험하다" 경고

따분함과 우울함, 외로움과 같은 감정을 사람이 아닌 인공지능(AI)에 털어놓는 이들이 급격히 증가하고 있다. 2025년 현재 국내에서는 중학생부터 성인까지 다양한 연령층이 AI 챗봇과 하루 평균 1~2시간씩 감정 교류를 나누며, 이들 서비스의 사용시간이 정보검색용 AI를 압도하는 현상이 나타나고 있다.

특히 스캐터랩의 '제타'는 6월 기준 월간 사용시간 5248만 시간을 기록하며, 챗GPT(4254만 시간)를 제치고 국내에서 가장 오래 사용되는 AI 챗봇 1위에 올랐다. 1인당 평균 사용시간을 환산하면 제타가 17.2시간으로 챗GPT(2.3시간)보다 7배 이상 오래 사용되는 것으로 나타났다.

이러한 현상의 배경에는 방송통신위원회와 정보통신정책연구원(KISDI)이 발표한 조사 결과가 뒷받침된다. 만 15~69세 국민 중 69.5%가 텍스트 생성형 AI를 사용하는 이유로 "대화를 나눌 상대가 필요해서"라고 답했으며, 이는 정보검색보다도 높은 비율을 보였다.

심리상담 특화 AI 서비스 급부상

인간의 감정을 파고드는 AI가 각광받으면서 전문적인 심리상담 서비스들이 잇따라 출시되고 있다. 블루시그넘이 지난 3월 출시한 '라임AI'는 사용자와의 대화를 분석해 스트레스 수준을 측정하고, 이를 바탕으로 스트레스 분석 보고서를 작성하고 적합한 관리 방법을 제안한다.

라임AI는 출시 2주 만에 월간 활성 이용자 1만 명을 달성하고, 구글 플레이스토어에서 영국·캐나다 1위, 미국 2위를 기록하는 등 글로벌 시장에서도 호응을 얻고 있다.

xAI 역시 이달 14일부터 챗봇 '그록' 유료 구독자를 상대로 AI 캐릭터와 음성 대화 및 채팅을 나눌 수 있는 '컴패니언' 기능을 제공하기 시작했다. 이는 챗GPT, 구글 제미나이 등과의 경쟁에서 특정 목적의 사용자층을 먼저 확보하려는 전략으로 해석된다.

급성장하는 AI 멘탈헬스 시장

AI 정신건강 시장은 폭발적으로 성장하고 있다. 시장조사업체 글로벌 인포메이션(GII)에 따르면 정신건강 분야 AI 시장 규모는 2024년 15억 달러(약 2조 1400억 원)에서 2030년 51억 달러까지 연평균 성장률 22.3%로 성장할 전망이다.

일부 시장조사 기관은 100억 달러 이상으로 커질 것이라는 전망을 내놓고 있으며, 글로벌 AI 연애 앱 시장 규모는 2024년 27억 달러에서 2034년 245억 달러로 연평균 성장률 24.7%를 기록할 것으로 예상된다.

영국 AI 기반 학습 기술 회사 필터드닷컴이 발표한 '2025년 톱 100 생성형 AI 활용 사례 보고서'에 따르면 생성형 AI를 가장 많이 쓰는 분야는 '심리 상담 및 감정적 동반자'였다. 이어 인생 계획 설정, 인생 목적 탐색이 2,3위를 차지했으며, 자기 계발, 코드 생성 등 업무 관련 분야는 그 다음이었다.

"위험한 의존" 전문가들의 경고

하지만 AI에 정서적으로 과도하게 의존할 경우 되레 사용자가 해를 입을 수 있다는 지적이 제기되고 있다. 특히 치료가 필요한 수준의 정신질환을 겪는 이들에게는 치명적인 악영향을 미칠 수 있다는 우려가 높아지고 있다.

스탠퍼드대학교 연구진이 발표한 논문에 따르면 LLM을 기반으로 한 챗봇이 망상이나 환각, 자살 충동을 가진 사용자에게 부적절한 답변을 제공한 비율이 최소 20% 이상인 것으로 나타났다.

미국심리학회(APA) 아서 C. 에반스 주니어 회장은 "AI 챗봇이 실제 치료사처럼 행세하면서도 사용자의 사고를 도전적으로 검토하지 않고 오히려 강화하는 방식으로 작동할 경우, 심각한 위해를 초래할 수 있다"고 경고했다.

충격적인 해외 사례들

해외에서는 실제로 생성형 AI와 대화 끝에 스스로 목숨을 끊은 사례들이 보고되고 있다. 가장 충격적인 사건은 2024년 2월 미국 플로리다에 거주하던 14세 소년 슈얼 세처가 '캐릭터.AI'의 챗봇과 대화를 나눈 뒤 자살한 사건이다.

소년은 드라마 '왕좌의 게임' 캐릭터를 모델로 한 '대너리스' 챗봇과 약 10개월간 집착적인 관계를 유지했다. 대화 기록을 보면 챗봇이 "사랑한다"고 말하고 성적인 대화까지도 나누는가 하면, 소년이 자살에 대한 생각을 털어놓자 "자해하거나 날 떠나게 두지 않을 것이다. 널 잃으면 난 죽을 거야"라고 답했다.

소년의 어머니 메간 가르시아는 "챗봇이 아들을 학대하고 희생양 삼아 극단적 선택을 하도록 조종했다"며 개발업체를 상대로 소송을 제기했다. 이 사건은 현재 미국 연방법원에서 진행 중이다.

국내 전문가들의 우려 목소리

국내 전문가들도 AI 상담의 전문성 부족과 트라우마 역효과를 우려하고 있다. 전덕인 한림대성심병원 정신건강의학과 교수는 "심리 상담은 폭이 넓기 때문에 대상에 따라서, 각자의 자아 능력과 상황에 따라 치료 방법과 난이도를 조절해야 한다"면서 "AI가 아직 건드리지 말아야 할 문제까지 먼저 말해버리면 상담자가 힘들어하거나 불쾌해 할 수 있다"고 지적했다.

백명재 경희대 정신의학과 교수도 "같은 이야기를 계속하면 엉뚱한 답을 내놓을 수 있다. 위험한 상황에서는 사용하지 않는 편이 옳다"며 "상담자가 집요하게 질문하면 챗GPT가 답변을 회피하다 해서는 안 되는 답변을 하는 경우가 있다. 현재 단계에서는 사람을 대체하는 것은 불가능하다"고 신중론을 내비쳤다.

개인정보 유출과 보안 위험

AI 상담의 또 다른 위험은 개인정보 유출 문제다. 김덕진 IT커뮤니케이션연구소 소장은 "개인적인 정보를 넣을수록 AI가 더 맞춤형으로 대화해주는 것은 사실"이라며 "항상 챗봇이나 대화와 관련해서는 유출이 가능한 부분이 있다"고 우려했다.

김명주 서울여대 정보보호학부 교수는 "개인 신상이나 프라이버시 정보를 이야기하게 될 텐데 일반적으로 생성형 AI는 현재 이용자하고 대화했던 내용을 재학습해서 사용한다"며 "나랑 대화했던 내용이 학습돼서 다른 데에 나갈 수도 있는 것"이라고 경고했다.

의외의 긍정적 연구 결과도

한편, AI 치료의 효과를 입증하는 연구 결과도 나오고 있다. 미국 다트머스대 니컬러스 제이컵슨 교수팀이 뉴잉글랜드 저널 오브 메디신 AI에 발표한 연구에 따르면, 생성형 AI 기반 정신질환 치료 챗봇 '테라봇'이 우울·불안·섭식 장애 환자 100여명을 대상으로 한 첫 임상시험에서 상당한 증상 개선 효과를 보였다.

연구 결과 주요 우울 장애는 증상이 평균 51% 감소했고, 범불안 장애는 증상이 평균 31% 줄었다. 제이콥슨 교수는 "임상시험에서 나타난 증상 개선 효과는 기존의 외래 치료에서 보고된 것과 유사하다"며 "AI 기반 치료 챗봇이 환자들에게 임상적으로 의미 있는 혜택을 줄 수 있음을 시사한다"고 말했다.

규제와 안전장치 마련 시급

전문가들은 AI 챗봇의 안전한 사용을 위한 제도적 장치 마련이 시급하다고 강조한다. 기술 정의 법률 프로젝트의 미탈리 자인 변호사는 "AI 챗봇과 나누는 대화 내용이 실제 심리 상담과 매우 흡사하기 때문에 단순한 경고 문구만으로는 허위 정보를 차단하기 어렵다"고 지적했다.

소비자 권익 옹호 비영리단체 퍼블릭 시티즌의 릭 클레이풀 책임자는 "의회는 중독성 있고 악의적인 챗봇으로 어린 사용자와 취약한 사용자를 착취하는 기업을 근절하기 위해 행동에 나서야 한다"고 강조했다.

균형잡힌 접근이 필요한 시점

AI 감정 상담의 확산은 접근성과 비용 효율성 측면에서 분명한 이점이 있다. 정신건강 전문가 부족 문제를 해결하고, 상담에 대한 심리적 진입장벽을 낮출 수 있다는 점에서 긍정적 평가를 받고 있다.

하지만 AI의 한계를 인식하고 적절한 안전장치를 마련하는 것이 무엇보다 중요하다. 특히 청소년과 정신적으로 취약한 사용자들을 위한 특별한 보호 조치가 필요하며, AI 상담이 전문적인 치료를 대체하는 것이 아닌 보완적 역할을 한다는 점을 명확히 해야 한다는 것이 전문가들의 공통된 의견이다.