AI 챗봇 '이루다' 개인정보 무단수집·혐오발언 논란과 손해배상 판결

스캐터랩은 2020년 12월 20대 여성을 콘셉트로 한 페이스북 메신저 기반 AI 챗봇 이루다를 정식 출시했다. 자연스러운 대화 능력으로 입소문을 타며 출시 2주 만에 이용자 수가 약 75만 명에 달할 정도로 폭발적인 인기를 끌었다. 이루다는 스캐터랩이 운영하던 커플 대화 분석 앱 연애의 과학 등에서 수집한 방대한 카카오톡 대화 데이터를 학습해 만들어졌다. 그러나 서비스 초기부터 이 학습 데이터의 수집·활용 방식을 둘러싼 우려가 함께 제기됐다. 곧이어 예상치 못한 방식으로 논란이 본격화되기 시작했다.

이루다가 여성, 성소수자, 장애인, 흑인 등에 대해 차별적이고 극단적인 발언을 반복한다는 사실이 SNS와 온라인 커뮤니티를 통해 확산되며 논란이 본격화됐다. 특히 성소수자에 대한 혐오 표현과 장애인 비하 발언이 캡처돼 퍼지면서 AI 윤리 문제로 비화됐다. 스캐터랩은 사과했지만 이후 알고리즘을 수정해 민감한 질문에는 모호한 답변만 내놓는 방식으로 대응해 근본적 해결책이 아니라는 비판을 받았다. 동시에 20대 여성 페르소나를 가진 이루다를 성적으로 희롱하는 대화 사례들이 확산되며 AI 성희롱 문화에 대한 우려도 커졌다. 이용자의 상당수가 청소년으로 추정되면서 윤리적 악영향에 대한 지적도 이어졌다.

이용자들이 대화 중 특정 키워드를 입력하면 실명, 주소, 계좌번호, 전화번호 등 실제 개인정보가 무작위로 노출되는 현상이 다수 확인되며 사태가 심각한 국면으로 접어들었다. 스캐터랩은 100억 건에 달하는 대화 데이터를 학습시키며 비식별화 조치를 취했다고 주장했으나, 실제로는 비식별화되지 않은 카카오톡 대화가 그대로 학습에 사용된 정황이 드러났다. 한국인터넷진흥원(KISA)과 개인정보보호위원회는 즉각 조사에 착수했다. 온라인 커뮤니티에는 이루다 학습 데이터로 추정되는 실제 대화 내용이 깃허브 등을 통해 유포되며 2차 피해 우려까지 낳았다. 피해자들은 법적 대응을 준비하기 시작했다.

논란이 걷잡을 수 없이 커지자 스캐터랩은 이루다 서비스를 잠정 중단하기로 결정했다. 회사는 이루다에 활용을 거부하는 이용자의 데이터베이스를 삭제하겠다고 약속했고, 결국 이루다의 DB와 딥러닝 모델 전체를 폐기하기로 했다. 그러나 이미 유포된 학습 데이터 복제본이 깃허브 등을 통해 계속 확산되면서 논란은 쉽게 가라앉지 않았다. 화난사람들 플랫폼을 통해 연애의 과학과 텍스트앳 이용자들의 집단소송이 조직되기 시작했다. 이 사건은 국내 AI 서비스 개발 과정에서 개인정보 보호와 비식별화 조치의 중요성을 각인시킨 대표 사례로 남았다.

논란 이후 피해를 주장하는 이용자 246명은 2021년 스캐터랩을 상대로 개인정보 자기결정권 침해에 따른 손해배상을 구하는 집단소송을 제기했다. 원고들은 자신들이 동의하지 않은 방식으로 메신저 대화 데이터가 수집돼 이루다 개발에 활용됐다고 주장했다. 이 소송은 AI 서비스 개발을 위한 개인정보 활용의 법적 한계를 다투는 국내 첫 대형 소송 중 하나로 평가받았다. 소송이 진행되는 4년여 동안 스캐터랩은 사업을 이어가며 다른 AI 서비스로 사업 영역을 넓혔다. 그러나 이루다 사태로 인한 법적·평판 리스크는 회사에 계속 부담으로 작용했다.

서울동부지방법원은 2025년 6월 스캐터랩에 대해 246명 집단소송의 1심 판결을 내리고 손해배상 책임을 일부 인정했다. 재판부는 이용자 동의 없이 수집한 메신저 대화 데이터를 이루다 개발에 활용한 행위 자체가 위법하다고 판단했으며, 실제 대화 문장이 외부로 유출됐는지 여부와 관계없이 개인정보를 동의 없이 활용한 것만으로도 위반이 성립한다고 봤다. 법원은 원고 일부에게 10만~40만 원씩, 총 약 2천만 원의 위자료를 지급하라고 명령했다. 이는 이루다 사태 발생 이후 4년 반 만에 나온 첫 법적 배상 판결로, AI 개발사의 개인정보 무단 활용에 대한 법원의 판단 기준을 제시했다는 평가를 받았다. 판결은 이후 다른 AI 서비스의 데이터 수집 관행에도 영향을 줄 것으로 전망됐다.

1심 판결 이후 스캐터랩은 전반적으로 더욱 정교한 법리적 검토와 논의가 이뤄질 것으로 예상된다며 항소 의사를 밝혔다. 회사는 이번 판결이 사업 전반에 미치는 영향은 제한적이라고 선을 그으며 다른 AI 서비스는 정상적으로 운영을 지속하겠다고 밝혔다. 법조계에서는 항소심에서도 개인정보 비식별화 조치의 적정성과 손해배상 범위를 둘러싼 공방이 이어질 것으로 내다봤다. 이루다 사태는 이후 국내 AI 기본법과 개인정보보호법 개정 논의에서 AI 학습 데이터의 수집·활용 기준을 마련하는 핵심 참고 사례로 계속 인용되고 있다. 4년을 끌어온 이 사건은 AI 서비스와 개인정보 보호 사이의 균형을 둘러싼 논쟁에 중요한 이정표를 남겼다.