돌아온 AI 챗봇 '이루다', "여전히 그대로인지..."

참여연대 등 24일 논평 발표, 이루다 서비스 재출시 우려

【베이비뉴스 전아름 기자】

AI 챗봇 이루다가 내년 1월 돌아온다.

성차별 및 혐오발언, 개인정보 무단 활용 등의 이유로 출시 3주만에 서비스를 중단하고, 개인정보보호법 위반으로 과징금 5550만 원과, 과태료 4780만 원을 부과받은지 1년 만이다.

참여연대와 민주사회를위한변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터는 24일 논평을 내고 "이루다 서비스 당시 제기된 문제가 아직 해결되지 않고 여전히 논쟁 중"이라고 우려를 표했다.

당시 개발사 스캐터랩은 다른 서비스 이용 회원의 대화데이터 1억 건을 동의없이 수집하고 이용해 위법이 확인됐다. 그러나 이를 파기하겠다고 선언하진 않은 상태로, 참여연대 등은 "이번 재출시 서비스 개발에 사용한 것 아닌지 의심스럽다"고 말했다.

참여연대 등에 따르면, 개인정보보호위가 지난 4월 챗봇 이루다 개발사 스캐터랩에 대하여 인정한 법위반 사실은 ▲스캐터랩이 ‘연애의 과학’과 ‘텍스트앳’이라는 서비스 이용 회원들의 대화내용을 수집하면서 챗봇 이루다의 학습용데이터로 사용한다는 사실을 명시하지 않고 정보주체의 명시적 동의를 받지 않은 점 ▲성관련 심리테스트 서비스하면서 응답결과를 불법 보관하여 민감정보에 대해 고지 및 별도 동의 받지 않은 점 ▲60만명의 회원정보 일부, 카카오톡 대화문장 94억여 건을 회원탈퇴 후에도 별도 학습용 DB로 저장하고 이루다 개발에 사용한 점 ▲1년 이상 서비스 미이용자들의 개인정보를 파기하거나 분리 보관하지 않은 점 ▲미성년자의 대화내용 수집 ▲개발자들의 마켓 Github에 테스트샘플 100건의 카카오톡 대화 포함 공개한 점이었다.

이들은 "카카오톡 대화를 수집하면서 상대방의 동의를 얻지 않아도 되는지, Github 등 개발자들의 공개 플랫폼에 가명정보를 올리는 것을 과학적 연구의 일환으로 볼 수 있는지, 기업 내부의 영리목적의 챗봇 개발을 과학적 연구로 볼 수 있는지 등은 여전히 해결되지 않은 과제"라며 "그럼에도 사건을 조사했던 개인정보보호위, 당사자인 개발사도 그 어떤 명확한 대답을 내놓지 않은 상태에서 사실상 동일한 서비스의 인공지능 제품을 내놓는 것에 우려를 표하지 않을 수 없다"고 주장했다.

참여연대 등은 "지난 4월 개인정보보호위가 사기업 내부의 영리목적의 상품서비스 개발을 ‘과학적 연구’라는 범위로 판단한 것은 향후 기업의 다양한 AI상품, 서비스 개발을 애초 정보주체로부터 동의받은 수집목적과 무관하게 양립가능한 것으로 해석될 수 있다는 점에서 시민사회의 우려 의견이 컸다"라며 "방대한 학습데이터가 중요한 AI산업에서 앞으로 다종다양한 상품과 서비스 개발이 이루어질 것인데, 기업들이 장래 불명의 마케팅이나 상업적 이용을 위해 수집 목적 달성 후에도 개인정보를 무한대로 보관하고 과학적 연구라는 미명하에 마음대로 활용한다면, 제2의, 제3의 챗봇이루다 사태는 반복될 것"이라고 지적했다.

아울러 "특히 주요 영역에서 사용되는 인공지능 알고리즘이 차별, 편향적인 결과물을 산출하는데 그 시정이 불가능하다면 폐기하는 것이 공익에 부합한다"라며 "인간의 사회적, 역사적 오류와 편향을 담은 학습데이터의 내재적 한계가 혐오와 차별을 용인하는 이유가 될 수는 없다"고 주장했다.

이들은 "이탈리아, 네덜란드 등 각국 개인정보보호 감독기관들은 배달플랫폼 알고리즘의 노동자 차별과 사회복지 급여 알고리즘의 신청자 차별에 대하여 단호한 제재 조치에 나서고 있다"라며 "그러나 한국의 개인정보보호위가 9월 국회에 제출한 개인정보보호법 2차 개정안에는 인공지능 시대, 신기술 환경에서 위협받는 정보주체의 권리 보호 장치가 여전히 부족하다"고 강조했다.

논평에 참여한 단체들은 "개인정보보호 감독기구가 챗봇 이루다 사태를 통해 채비해야 할 업무는 인공지능 등 새로운 신기술의 시대에 취약한 정보주체의 권리 보호 방안을 마련해야 한다"라며, "기업의 자율적 윤리기준을 넘어 의무와 책임이 동반되는 명확한 법규 마련이라는 점을 잊어서는 안될 것"이라고 당부했다.

전아름 기자 다른기사 보기

베사모의 회원이 되어주세요!

베이비뉴스는 창간 때부터 클린광고 정책을 유지하고 있습니다. 이것은 작은 언론으로서 쉬운 선택은 아니었습니다. 그럼에도 불구하고 베이비뉴스는 앞으로도 기사 읽는데 불편한 광고는 싣지 않겠습니다.
베이비뉴스는 아이 낳고 기르기 좋은 세상을 만드는 대안언론입니다. 저희 기사가 마음에 드셨다면, 좋은 기사 후원하기에 동참해주세요. 여러분의 기사후원 참여는 아름다운 나비효과를 만들 것입니다.

베사모의 회원이 되어주세요!

베이비뉴스 좋은 기사 후원하기