윈도우 / MS 정부 조사 착수에 "AI 윤리 어겨" 성명까지…이루다 서비스 중단할까
2021.01.11 21:11
이루다 개발사 스캐터랩, 11일 오후 입장발표 "서비스 잠정 중단도 검토"
AI 챗봇 '이루다'. 스캐터랩 SNS 캡처
네이버채널 구독
인공지능(AI) 챗봇 '이루다'를 둘러싼 여러 논란으로 정부 조사까지 받게 된 스타트업 스캐터랩이 11일 오후 입장을 밝힐 예정이다. 스캐터랩은 이루다 서비스를 잠정 중단하는 방안도 검토하는 것으로 전해졌다.
이루다 개발에 빅데이터로 활용된 연애의 과학 앱 이용자들이 개인정보 유출 의혹을 제기한데다, 인공지능윤리협회까지 나서서 "이루다 서비스를 중단하라"는 성명을 낸 것이다.
이날 개인정보보호위원회는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 확인하는 작업에 들어갔다.
개인정보위는 사실 관계를 확인한 뒤 위법사항이 발견되면 법령에 따라 조처하겠다는 방침이다. 아울러 연애의 과학 앱을 통해 수집한 카카오톡 대화를 이루다라는 다른 서비스 개발에 활용한 과정을 집중적으로 들여다볼 예정이다.
개인정보위 점검에는 한국인터넷진흥원(KISA) 개인정보사고조사팀도 참여한다. KISA 전문가들은 스캐터랩이 개인정보를 수집·활용하는 과정에 기술적인 위법·편법이 있지는 않았는지 조사에 나선다.
이날 한국인공지능윤리협회도 성명을 냈다. 협회는 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라며 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"고 주장했다.
이어 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"면서 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"고 지적했다. AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓는다는 이유에서다.
그러면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"며 서비스 중단을 촉구했다. "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.
협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 덧붙였다.
스캐터랩 홈페이지 캡처
이에 스캐터랩 관계자는 "조만간 입장문을 낼 계획"이라며 "외부 법률 자문 등 검토를 거치느라 늦어진 점을 양해 부탁드린다"고 말했다. 이루다 서비스를 잠정 중단하는 방안도 검토중이다. 김종윤 스캐터랩 대표는 출근한 것으로 알려졌으나 통화는 되지 않았다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.
자연스러운 대화 능력으로 이용자가 40만 명을 넘기는 등 크게 주목받았는데, 악성 이용자로부터 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 됐다.
스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고하고 있다.
댓글 [7]
-
모노시티 2021.01.12 11:21
-
Monsoon 2021.01.12 21:30
그러면, 성소수자, 동성애자, 장애인에 대한 차별적 인식을 프로그래밍 해놓은 AI 프로그램이 문제가 없다는 건가요?
-
레덕후 2021.01.13 13:22
오류일 수도 있죠.
-
메리아 2021.01.16 20:33
차별적 인식을 일부러 넣은게 아니라
사용자 데이터를 수집했더니 그랬다는거죠.
결국 이루다 폐기되었다고 합니다만,
그런거 때문이 아니라 개인정보 무단 수집 및 이용 및 배포 때문입니다.
필터링 할건 해야겠지만
저런거 때문에 무작정 없앤다는건도 말이 안됩니다.
저런 식이면 영원히 아무것도 서비스 못할겁니다.
참고로 구글에서 유명한 사건이 하나 있죠.
사진을 네이밍해서 분류해주는 서비스였습니다.
저렇게 나오는 바람에 물론 반발이 컸죠.
그래서 뭘 했을까요?
그냥 필터링 인력을 늘렸습니다. 흑인과 관련된건 사실상 죄다 수작업한다더군요.
지금처럼 폐기하라고 한게 아니구요.
현실이 어쩔수 없다고 해서 모욕이 정당화 되는건 아닙니다.
하지만 의도한 모욕이 아닌데 개선요구가 아니라
무조건 폐기하라는 건 영원히 발전을 막는 길입니다.
그리고 그놈의 개인정보도 필터링 접근이 아니라
폐기로 간게 참 안타깝습니다.
구글이 저 서비스 준비하면서 수집한 개인정보는 아무렇지도 않은걸까요?
아무리봐도 저런 사진을 막 갖다 쓰고 "고릴라"라고 이름 써버리면 개인정보,모욕 끝판왕이 아닐까 싶은데요.
근데 구글보고 전부 폐기하라고 다 내리라고 하진 않잖아요.
필터링을 요구해야지 무조건 없애라는 식은 봐도봐도 미친짓 같습니다.
-
타마스 2021.01.13 23:23
이런 저런 오류가 나야 고치고 발전을 하지. 좀 안맞다고 서비스 중단이라니
-
메리아 2021.01.16 20:37
정말 안타깝습니다.
확실히 제가 봐도 좀 문제는 있는데
개선이 아니라 중단에 폐기까지...
아무리봐도 여러분야에서 이 나라는 이미 망조에 들었습니다.
1970년대만 해도 필리핀이 우리보다 잘 살았다는데
어쩌면 2070년대 쯤 되면 다시 그럴지도 모르겠군요.
-
장스 2021.01.21 18:42
AI가 진실을 말하는데 왜 입을 막아..ㅋ
대한민국은 역시 공자왈 맹자왈 덕분에 뒤쳐지겠군요