윈도우 / MS 정부 조사 착수에 "AI 윤리 어겨" 성명까지…이루다 서비스 중단할까

2021.01.11 21:11

잠못드는밤바지내리고 조회:1513 추천:2

오늘의 핫뉴스닫기
이루다 개발사 스캐터랩, 11일 오후 입장발표 "서비스 잠정 중단도 검토"


AI 챗봇 '이루다'. 스캐터랩 SNS 캡처
네이버채널 구독
인공지능(AI) 챗봇 '이루다'를 둘러싼 여러 논란으로 정부 조사까지 받게 된 스타트업 스캐터랩이 11일 오후 입장을 밝힐 예정이다. 스캐터랩은 이루다 서비스를 잠정 중단하는 방안도 검토하는 것으로 전해졌다.

이루다 개발에 빅데이터로 활용된 연애의 과학 앱 이용자들이 개인정보 유출 의혹을 제기한데다, 인공지능윤리협회까지 나서서 "이루다 서비스를 중단하라"는 성명을 낸 것이다.

이날 개인정보보호위원회는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 확인하는 작업에 들어갔다.

개인정보위는 사실 관계를 확인한 뒤 위법사항이 발견되면 법령에 따라 조처하겠다는 방침이다. 아울러 연애의 과학 앱을 통해 수집한 카카오톡 대화를 이루다라는 다른 서비스 개발에 활용한 과정을 집중적으로 들여다볼 예정이다.

개인정보위 점검에는 한국인터넷진흥원(KISA) 개인정보사고조사팀도 참여한다. KISA 전문가들은 스캐터랩이 개인정보를 수집·활용하는 과정에 기술적인 위법·편법이 있지는 않았는지 조사에 나선다.

이날 한국인공지능윤리협회도 성명을 냈다. 협회는 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라며 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"고 주장했다.

이어 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"면서 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"고 지적했다. AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓는다는 이유에서다.

그러면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"며 서비스 중단을 촉구했다. "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.

협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 덧붙였다.



스캐터랩 홈페이지 캡처
이에 스캐터랩 관계자는 "조만간 입장문을 낼 계획"이라며 "외부 법률 자문 등 검토를 거치느라 늦어진 점을 양해 부탁드린다"고 말했다. 이루다 서비스를 잠정 중단하는 방안도 검토중이다. 김종윤 스캐터랩 대표는 출근한 것으로 알려졌으나 통화는 되지 않았다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

자연스러운 대화 능력으로 이용자가 40만 명을 넘기는 등 크게 주목받았는데, 악성 이용자로부터 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 됐다.

스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고하고 있다.
번호 제목 글쓴이 조회 등록일
[공지] 최신정보 이용 안내 gooddew - -
5774 기 타| 스맛폰으로 채굴 가능한 신규 무료 코인 AIBOX (20년 12월 ... new 하늘보리 49 01:42
5773 모 바 일| 갤럭시탭서도 `카톡` 할 수 있다 [1] new asklee 86 00:16
5772 윈도우 / MS| 유출된 윈도우 10X 즉석 리뷰 “새롭고 간소화된 운영체제” [2] 큰돌 3078 01-16
5771 서버 / IT| Raspberry Pi OS • 2021-01-12 출시 [1] VₑₙᵤₛG 1339 01-14
» 윈도우 / MS| 정부 조사 착수에 "AI 윤리 어겨" 성명까지…이루... [6] 잠못드는밤 1513 01-11
5769 서버 / IT| "AI가 동성애·장애인 혐오?"…이루다가 불붙인 'A... 농심신난년 888 01-11
5768 서버 / IT| 코로나19 시대를 대비하는 '3-2-1 백업원칙' [2] 농심신난년 775 01-11
5767 하드웨어| 리눅스 창시자가 쓰는 개발용 조립 PC의 사양은 [3] 낭만도동넘 3174 01-07
5766 서버 / IT| Linux Mint 20.1 “Ulyssa” - Cinnamon/MATE/Xfce 출시 [1] VₑₙᵤₛG 557 01-07
5765 서버 / IT| 리눅스 OS - Debian 10: 10.7.0 출시 [1] VₑₙᵤₛG 1851 12-27
5764 윈도우 / MS| 윈도우10 20H2 KB4592438을 설치한 환경에서  chkdsk를 실... [7] 졸린사자 4705 12-22
5763 소프트웨어| Chrome 88은 광고 차단기가 작동하는 것을 막지만 비발디와... [17] 도전정신 4261 12-17
5762 윈도우 / MS| Windows 10 Version 20H2 (Updated December 2020) [2] 디폴트 4185 12-17
5761 업체 소식| iOS/iPadOS 14.3, 구형 기기용 iOS/iPadOS 12.5, watchOS 7... [3] asklee 1461 12-15
5760 윈도우 / MS| Windows 10X의 RTM 버전은 빌드 20279로 결정됨. [7] 테스형 3349 12-13
5759 소프트웨어| CentOS 8.3 2011 Release 애디오 1421 12-09
5758 윈도우 / MS| Windows / Server 업데이트 2020-12-08 [5] 디폴트 1600 12-09
5757 서버 / IT| Raspberry Pi OS 2020-12-02 [2] VₑₙᵤₛG 1800 12-05
5756 서버 / IT| 리눅스 OS - Manjaro Linux 20.2 정식 출시 [4] VₑₙᵤₛG 1273 12-04
5755 윈도우 / MS| 20H2 (Updated November 2020) [5] 디폴트 3287 12-04
XE1.11.6 Layout1.4.8