스타트업

스캐터랩, 개인정보 유출 논란 ‘이루다’ DB 및 딥러닝 대화 모델 폐기

버섯돌이 2021. 1. 15. 11:26
728x90

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩에서 ‘이루다’의 데이터베이스(DB) 및 이루다의 학습에 사용된 딥러닝 대화 모델을 폐기한다고 밝혔다.

스캐터랩은 작년 12월에 이루다를 정식 출시했지만, 서비스 출시 2주 만에 AI에 성희롱 논란과 혐오 조장 논란에 휩싸이며 서비스 일시 중단을 선언한 바 있다.

 

성희롱과 혐오 조장 논란 ‘이루다’, 서비스 잠정 중단

작년 12월 23일에 정식 서비스를 시작한 대화형 AI ‘이루다’는 2주만에 서비스 잠정 중단을 선언했다. 사진 출처 : 이루다 인스타그램 이루다는 서비스 출시와 함께 일부 커뮤니티에서 AI에 대한

wowtale.net

서비스 중단 이후 혐오 조장 논란보다 서비스 개발 과정에서 AI를 학습시키기 위해 개인정보를 유출했다는 비판을 받아왔다.

스캐터랩 측에 따르면, 이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다는 입장이다. 또한 딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 전혀 없다는 입장이다.

그러나 이용자들의 불안감을 고려하여 이번 인공지능 ‘이루다’의 DB 전량 및 딥러닝 대화 모델을 폐기하기로 결정한 것이다.

스캐터랩은 현재 한국인터넷진흥원(KISA) 및 개인정보보호위원회의 조사를 받고 있으며, 조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행한다는 방침이다.

기존 연애의 과학과 텍스트앳에서 이용자의 동의를 받고 수집되었던 기존 데이터는 데이터 활용을 원하지 않는 이용자로부터 신청을 받은 후, 해당 이용자의 데이터를 모두 삭제할 예정이며, 이는 향후 딥러닝 대화 모델에도 이용되지 않는다고 밝혔다.

또한 이와 관련한 후속 조치는 각 어플리케이션 공지를 통해 안내하고, 향후 신규 가입 및 서비스 이용시에는 개인정보 수집, 이용 동의 절차를 강화할 계획이라고 밝혔다.

[인공지능(AI) 스타트업 소식 전체보기]