법원의 역사적 판결, AI 데이터 윤리의 새로운 전환점서울동부지법이 AI 챗봇 '이루다' 개발사 스캐터랩에 대해 개인정보 무단 이용 피해자들에게 10만~40만원의 위자료 배상을 명령하는 판결을 내렸다. 이는 국내 AI 개발 과정에서 당사자 동의 없는 개인정보 학습 사례에 대한 하급심 법원의 첫 손해배상 판결로, AI 데이터 윤리의 새로운 법적 기준을 제시한 사건이다.
이미지: perplexity 생성
이루다 개인정보 유출 사건의 손해배상 현황을 보여주는 막대 그래프
사건 개요: 93억 건의 연인 대화가 AI 학습에 무단 활용스캐터랩은 2020년 12월 출시한 AI 챗봇 '이루다'를 개발하기 위해 자사 앱 '연애의 과학'과 '텍스트앳'에서 수집한 연인 간 대화 93억 건을 학습시켰다. 이 과정에서 이름, 전화번호, 현관 비밀번호 등의 개인정보뿐만 아니라 성적 대화 등 민감한 내용까지 AI 학습에 활용된 것으로 드러났다. 재판부는 스캐터랩이 이용자들에게 충분한 고지 없이 이루다 개발에 이용자 데이터를 활용했다며 개인정보보호법 위반이 맞다고 판단했다. 이용자들이 로그인 시 '신규서비스 개발에 사용될 수 있다'는 개인정보 처리 방침에 동의했더라도, 이는 실질적 동의로 볼 수 없다고 강조했다.
판결 내용: 피해 유형별 차등 배상서울동부지법 민사합의15부(조용래 부장판사)는 피해자 246명이 제기한 손해배상 청구 소송에서 원고 일부 승소로 판결했다. 구체적인 배상 내용은 다음과 같다: 총 246명 중 93명에게만 배상 판결이 내려졌으며, 나머지 153명은 개인정보 유출이 입증되지 않아 배상 대상에서 제외됐다.
스캐터랩의 항변과 법원의 판단스캐터랩 측은 재판 과정에서 데이터를 가명 처리했고 과학적 연구 목적도 있었다고 항변했다. 하지만 법원은 가명 처리가 식별이 불가능할 정도로 이뤄지지 않았고, 과학적 연구로 보기도 힘들다고 판단했다. 스캐터랩은 판결에 불복하여 항소했다고 밝혔다. 회사 측은 "당시 업계에서 활용되던 수준의 문구 등을 참고해 이용자에게 설명했지만, 급변하는 기술 상황 속에서 엄격한 법적 기준으로 봤을 때 일부 미흡한 부분이 있었다"며 "판결 취지는 존중하지만 법리적으로 면밀히 따질 부분이 있다"고 입장을 표명했다.
이미 받은 행정처분과 개선 노력개인정보보호위원회는 이미 2021년 4월 스캐터랩에 대해 과징금 5550만원과 과태료 4780만원 등 총 1억330만원을 부과한 바 있다. 이는 AI 기업의 무분별한 개인정보 처리를 제재한 첫 사례였다. 스캐터랩은 2022년 11월 '이루다 2.0'을 출시하면서 문제가 됐던 데이터베이스를 삭제하고 필터링을 강화했다. 또한 개인정보보호위원회가 제시한 AI 개인정보보호 자율점검표 기준을 준수하며 AI 관련 개인정보보호 6대 원칙을 바탕으로 서비스를 개발하고 있다고 밝혔다.
AI 개인정보 보호 규제 강화 동향이루다 사건 이후 AI 데이터 수집에 대한 규제가 강화되고 있다. 개인정보보호위원회는 2024년 7월 「인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서」를 발표하여 AI 학습 및 서비스에 공개된 개인정보를 수집·이용할 수 있는 기준을 제시했다. 최근에는 AI 기술 개발을 위한 개인정보 처리 특례 규정을 담은 개인정보 보호법 일부개정법률안이 발의됐다. 이 개정안은 AI 기술 개발 및 성능 개선을 위해 개인정보보호위원회의 심의·의결을 거쳐 개인정보를 당초 수집 목적 외로 활용할 수 있도록 하는 내용을 담고 있다.
전문가 의견과 향후 전망원고를 대리한 법무법인 태림은 "이번 판결은 AI 프로그램의 데이터 수집 방안의 기준을 제시한 것"이라며 "무분별한 데이터 수집에 대한 제한이 될 것"이라고 밝혔다. 국제인공지능윤리협회 전창배 이사장은 "원칙이나 기준이 아직 마련되어 있지 않은 상황이기 때문에 개인정보나 저작권 콘텐츠를 수집할 때는 반드시 사전에 명확한 고지를 하고 동의를 받고 수집을 해야 한다"고 강조했다. AI 기술의 발전과 함께 개인정보 보호 문제는 더욱 복잡해질 전망이다. 연구자들의 권리를 보호하면서도 AI 기술 혁신을 촉진할 수 있는 균형점을 찾는 것이 중요한 과제로 남아있다.
AI 윤리의 새로운 출발점이루다 사건은 AI 개발 과정에서 개인정보 보호의 중요성을 각인시킨 상징적 사건이다. 4년여 만에 나온 이번 판결은 AI 기업들이 데이터 수집 시 더욱 엄격한 기준을 적용해야 함을 시사한다. 동시에 AI 산업의 건전한 발전을 위해서는 혁신과 개인정보 보호 사이의 균형점을 찾는 지속적인 노력이 필요하다는 점을 보여주고 있다.
| 
법원의 역사적 판결, AI 데이터 윤리의 새로운 전환점
서울동부지법이 AI 챗봇 '이루다' 개발사 스캐터랩에 대해 개인정보 무단 이용 피해자들에게 10만~40만원의 위자료 배상을 명령하는 판결을 내렸다. 이는 국내 AI 개발 과정에서 당사자 동의 없는 개인정보 학습 사례에 대한 하급심 법원의 첫 손해배상 판결로, AI 데이터 윤리의 새로운 법적 기준을 제시한 사건이다.
이미지: perplexity 생성
사건 개요: 93억 건의 연인 대화가 AI 학습에 무단 활용
스캐터랩은 2020년 12월 출시한 AI 챗봇 '이루다'를 개발하기 위해 자사 앱 '연애의 과학'과 '텍스트앳'에서 수집한 연인 간 대화 93억 건을 학습시켰다. 이 과정에서 이름, 전화번호, 현관 비밀번호 등의 개인정보뿐만 아니라 성적 대화 등 민감한 내용까지 AI 학습에 활용된 것으로 드러났다.
재판부는 스캐터랩이 이용자들에게 충분한 고지 없이 이루다 개발에 이용자 데이터를 활용했다며 개인정보보호법 위반이 맞다고 판단했다. 이용자들이 로그인 시 '신규서비스 개발에 사용될 수 있다'는 개인정보 처리 방침에 동의했더라도, 이는 실질적 동의로 볼 수 없다고 강조했다.
판결 내용: 피해 유형별 차등 배상
서울동부지법 민사합의15부(조용래 부장판사)는 피해자 246명이 제기한 손해배상 청구 소송에서 원고 일부 승소로 판결했다. 구체적인 배상 내용은 다음과 같다:
개인정보 유출 입증 26명: 위자료 10만원
민감정보 유출 입증 23명: 위자료 30만원
개인정보+민감정보 유출 입증 44명: 위자료 40만원
총 246명 중 93명에게만 배상 판결이 내려졌으며, 나머지 153명은 개인정보 유출이 입증되지 않아 배상 대상에서 제외됐다.
스캐터랩의 항변과 법원의 판단
스캐터랩 측은 재판 과정에서 데이터를 가명 처리했고 과학적 연구 목적도 있었다고 항변했다. 하지만 법원은 가명 처리가 식별이 불가능할 정도로 이뤄지지 않았고, 과학적 연구로 보기도 힘들다고 판단했다.
스캐터랩은 판결에 불복하여 항소했다고 밝혔다. 회사 측은 "당시 업계에서 활용되던 수준의 문구 등을 참고해 이용자에게 설명했지만, 급변하는 기술 상황 속에서 엄격한 법적 기준으로 봤을 때 일부 미흡한 부분이 있었다"며 "판결 취지는 존중하지만 법리적으로 면밀히 따질 부분이 있다"고 입장을 표명했다.
이미 받은 행정처분과 개선 노력
개인정보보호위원회는 이미 2021년 4월 스캐터랩에 대해 과징금 5550만원과 과태료 4780만원 등 총 1억330만원을 부과한 바 있다. 이는 AI 기업의 무분별한 개인정보 처리를 제재한 첫 사례였다.
스캐터랩은 2022년 11월 '이루다 2.0'을 출시하면서 문제가 됐던 데이터베이스를 삭제하고 필터링을 강화했다. 또한 개인정보보호위원회가 제시한 AI 개인정보보호 자율점검표 기준을 준수하며 AI 관련 개인정보보호 6대 원칙을 바탕으로 서비스를 개발하고 있다고 밝혔다.
AI 개인정보 보호 규제 강화 동향
이루다 사건 이후 AI 데이터 수집에 대한 규제가 강화되고 있다. 개인정보보호위원회는 2024년 7월 「인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서」를 발표하여 AI 학습 및 서비스에 공개된 개인정보를 수집·이용할 수 있는 기준을 제시했다.
최근에는 AI 기술 개발을 위한 개인정보 처리 특례 규정을 담은 개인정보 보호법 일부개정법률안이 발의됐다. 이 개정안은 AI 기술 개발 및 성능 개선을 위해 개인정보보호위원회의 심의·의결을 거쳐 개인정보를 당초 수집 목적 외로 활용할 수 있도록 하는 내용을 담고 있다.
전문가 의견과 향후 전망
원고를 대리한 법무법인 태림은 "이번 판결은 AI 프로그램의 데이터 수집 방안의 기준을 제시한 것"이라며 "무분별한 데이터 수집에 대한 제한이 될 것"이라고 밝혔다.
국제인공지능윤리협회 전창배 이사장은 "원칙이나 기준이 아직 마련되어 있지 않은 상황이기 때문에 개인정보나 저작권 콘텐츠를 수집할 때는 반드시 사전에 명확한 고지를 하고 동의를 받고 수집을 해야 한다"고 강조했다.
AI 기술의 발전과 함께 개인정보 보호 문제는 더욱 복잡해질 전망이다. 연구자들의 권리를 보호하면서도 AI 기술 혁신을 촉진할 수 있는 균형점을 찾는 것이 중요한 과제로 남아있다.
AI 윤리의 새로운 출발점
이루다 사건은 AI 개발 과정에서 개인정보 보호의 중요성을 각인시킨 상징적 사건이다. 4년여 만에 나온 이번 판결은 AI 기업들이 데이터 수집 시 더욱 엄격한 기준을 적용해야 함을 시사한다. 동시에 AI 산업의 건전한 발전을 위해서는 혁신과 개인정보 보호 사이의 균형점을 찾는 지속적인 노력이 필요하다는 점을 보여주고 있다.