최신 정보

윈도우 / MS 정부 조사 착수에 "AI 윤리 어겨" 성명까지…이루다 서비스 중단할까

2021.01.11 21:11

잠못드는밤바지내리고 조회:2238 추천:2

오늘의 핫뉴스닫기
이루다 개발사 스캐터랩, 11일 오후 입장발표 "서비스 잠정 중단도 검토"


AI 챗봇 '이루다'. 스캐터랩 SNS 캡처
네이버채널 구독
인공지능(AI) 챗봇 '이루다'를 둘러싼 여러 논란으로 정부 조사까지 받게 된 스타트업 스캐터랩이 11일 오후 입장을 밝힐 예정이다. 스캐터랩은 이루다 서비스를 잠정 중단하는 방안도 검토하는 것으로 전해졌다.

이루다 개발에 빅데이터로 활용된 연애의 과학 앱 이용자들이 개인정보 유출 의혹을 제기한데다, 인공지능윤리협회까지 나서서 "이루다 서비스를 중단하라"는 성명을 낸 것이다.

이날 개인정보보호위원회는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 확인하는 작업에 들어갔다.

개인정보위는 사실 관계를 확인한 뒤 위법사항이 발견되면 법령에 따라 조처하겠다는 방침이다. 아울러 연애의 과학 앱을 통해 수집한 카카오톡 대화를 이루다라는 다른 서비스 개발에 활용한 과정을 집중적으로 들여다볼 예정이다.

개인정보위 점검에는 한국인터넷진흥원(KISA) 개인정보사고조사팀도 참여한다. KISA 전문가들은 스캐터랩이 개인정보를 수집·활용하는 과정에 기술적인 위법·편법이 있지는 않았는지 조사에 나선다.

이날 한국인공지능윤리협회도 성명을 냈다. 협회는 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라며 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"고 주장했다.

이어 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"면서 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"고 지적했다. AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓는다는 이유에서다.

그러면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"며 서비스 중단을 촉구했다. "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.

협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 덧붙였다.



스캐터랩 홈페이지 캡처
이에 스캐터랩 관계자는 "조만간 입장문을 낼 계획"이라며 "외부 법률 자문 등 검토를 거치느라 늦어진 점을 양해 부탁드린다"고 말했다. 이루다 서비스를 잠정 중단하는 방안도 검토중이다. 김종윤 스캐터랩 대표는 출근한 것으로 알려졌으나 통화는 되지 않았다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

자연스러운 대화 능력으로 이용자가 40만 명을 넘기는 등 크게 주목받았는데, 악성 이용자로부터 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 됐다.

스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고하고 있다.
번호 제목 글쓴이 조회 등록일
[공지] 최신정보 이용 안내 gooddew - -
6641 윈도우 / MS| Windows 8 KMS 불법 인증자, Microsoft 계정 차단될 수 있음 [37] 엘휘 29840 08-09
6640 MSDN 에 Windows 7 모든 통합버전이 나왔음.!! [66] biy00ss 25638 08-29
6639 소프트웨어| 리눅스 라이트 1.0.0 [11] sp별wp 23962 11-29
6638 윈도우 / MS| Windows 8 의 권장사양 입니다. [5] 고래 천사 23659 09-14
6637 윈도우 / MS| MS 알고도 모른척? '해적판 윈도우8' 영구인증 된다? [21] 어설프군YB 22487 11-23
6636 TED에서 소개된 Bing Map 해미 21644 02-14
6635 msdn 에 Windows7 서비스팩1 한글 통합판 등장 [39] 슬픔의언덕 19747 02-23
6634 윈도우 / MS| 윈도8. 윈도7 보다 많이 팔았는데 사용자는 리눅스보다 적어.. [14] 필로칼리아 18334 12-01
6633 윈도우 / MS| Microsoft Office 2019 Retail (x86 & x64) DVD [49] 디폴트 18191 09-25
6632 윈도7, 호환성 불만 갈수록 태산~ [89] Native 64 17735 11-05
6631 윈도우 / MS| 홍차의꿈 윈도우10 정발 소식 [12] 에드힐스 16994 07-28
6630 윈도우 / MS| [예상] 윈도우 8 출시일...-RTM-정식- [52] 우주선 16780 06-10
6629 CoreAVC 2.0 (for Windows) 출시. [19] 미테니사키 16778 12-21
6628 코렐, '윈집 14.5 한글' 국내 공급 [13] 미테니사키 16261 07-08
6627 소프트웨어| 한글과컴퓨터, '한컴오피스 2024' 출시 [64] 노랑통닭 16120 10-12
6626 ASUS BIOS Update [10] 뚜버기 15982 10-31
6625 대학생 윈도우 7 프로 39,900원 [105] 해미 15866 10-21
6624 윈도우 / MS| Windows 8에는 연연하지 마세요. [28] 통나무 15840 10-18
6623 윈도우 / MS| Windows 8.1 with Update 3 릴리즈 [10] 신조사협 15837 12-16
XE1.11.6 Layout1.4.8