최신 정보

윈도우 / MS 정부 조사 착수에 "AI 윤리 어겨" 성명까지…이루다 서비스 중단할까

2021.01.11 21:11

잠못드는밤바지내리고 조회:2238 추천:2

오늘의 핫뉴스닫기
이루다 개발사 스캐터랩, 11일 오후 입장발표 "서비스 잠정 중단도 검토"


AI 챗봇 '이루다'. 스캐터랩 SNS 캡처
네이버채널 구독
인공지능(AI) 챗봇 '이루다'를 둘러싼 여러 논란으로 정부 조사까지 받게 된 스타트업 스캐터랩이 11일 오후 입장을 밝힐 예정이다. 스캐터랩은 이루다 서비스를 잠정 중단하는 방안도 검토하는 것으로 전해졌다.

이루다 개발에 빅데이터로 활용된 연애의 과학 앱 이용자들이 개인정보 유출 의혹을 제기한데다, 인공지능윤리협회까지 나서서 "이루다 서비스를 중단하라"는 성명을 낸 것이다.

이날 개인정보보호위원회는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 확인하는 작업에 들어갔다.

개인정보위는 사실 관계를 확인한 뒤 위법사항이 발견되면 법령에 따라 조처하겠다는 방침이다. 아울러 연애의 과학 앱을 통해 수집한 카카오톡 대화를 이루다라는 다른 서비스 개발에 활용한 과정을 집중적으로 들여다볼 예정이다.

개인정보위 점검에는 한국인터넷진흥원(KISA) 개인정보사고조사팀도 참여한다. KISA 전문가들은 스캐터랩이 개인정보를 수집·활용하는 과정에 기술적인 위법·편법이 있지는 않았는지 조사에 나선다.

이날 한국인공지능윤리협회도 성명을 냈다. 협회는 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라며 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"고 주장했다.

이어 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"면서 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"고 지적했다. AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓는다는 이유에서다.

그러면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"며 서비스 중단을 촉구했다. "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.

협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 덧붙였다.



스캐터랩 홈페이지 캡처
이에 스캐터랩 관계자는 "조만간 입장문을 낼 계획"이라며 "외부 법률 자문 등 검토를 거치느라 늦어진 점을 양해 부탁드린다"고 말했다. 이루다 서비스를 잠정 중단하는 방안도 검토중이다. 김종윤 스캐터랩 대표는 출근한 것으로 알려졌으나 통화는 되지 않았다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

자연스러운 대화 능력으로 이용자가 40만 명을 넘기는 등 크게 주목받았는데, 악성 이용자로부터 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 됐다.

스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고하고 있다.
번호 제목 글쓴이 조회 등록일
[공지] 최신정보 이용 안내 gooddew - -
6442 윈도우 / MS| Windows 11은 마침내 iPhone 사용자들이 PC에서 문자를 보... VᴇɴᴜꜱGɪ 970 03-02
6441 윈도우 / MS| Windows 11, 모멘트 업데이트 2 (Moment Update 2)를 설치... [4] 타천사둘리 1038 03-01
6440 하드웨어| AMD Ryzen 9 7950X3D/7900X3D 출시 및 국내 가격 우낀남자 817 03-01
6439 하드웨어| MSI, 7000X3D 기본 지원을 갖춘 MAG X670E 토마호크 WiFi ... 우낀남자 268 03-01
6438 하드웨어| LG 마침내 신형 OLED TV 및 전 라인업 가격과 출시일 공개 우낀남자 594 03-01
6437 하드웨어| GALAX, 470W 전력 제한을 갖춘 GeForce RTX 4080 HOF 출시 우낀남자 269 03-01
6436 윈도우 / MS| Windows 11 Moment 2 업데이트의 새로운 기능입니다 [3] VᴇɴᴜꜱGɪ 1863 02-28
6435 윈도우 / MS| Microsoft는 3월 8일까지 Windows 11 베타 채널 내부자에게... [1] VᴇɴᴜꜱGɪ 1642 02-25
6434 윈도우 / MS| Microsoft는 지원되지 않는 PC를 전체 화면 프롬프트로 Win... VᴇɴᴜꜱGɪ 1356 02-25
6433 서버 / IT| 리눅스 OS - Ubuntu 22.04.2 LTS 배포 [1] VᴇɴᴜꜱGɪ 778 02-24
6432 업체 소식| 2005년 9월 이전 생산 딤체 김치냉장고 즉시 리콜 [2] asklee 1120 02-24
6431 하드웨어| 명함 크기에 4TB를 품은 외장 SSD, 삼성전자 T7 Shield 4TB [2] 엄마갯돈 2805 02-21
6430 서버 / IT| 마이크로소프트, '빙 챗봇' 문답 제한..."부적절 답변... [3] 엄마갯돈 1109 02-20
6429 서버 / IT| 인간, 바둑 대결서 AI 꺾다..."변칙 전략으로 허점 공... [5] 엄마갯돈 1296 02-20
6428 윈도우 / MS| 마이크로소프트, 애플 M1·M2에서 윈도11 사용 인증 [1] 엄마갯돈 1164 02-20
6427 윈도우 / MS| 기업용 윈도11 업데이트, 작아지고 빨라진다 엄마갯돈 1190 02-20
6426 윈도우 / MS| Windows 11 Insider Preview 베타 빌드(KB5022914)가 새로... VᴇɴᴜꜱGɪ 770 02-18
6425 윈도우 / MS| Windows 11 22H2 드라이버 업데이트가 0x80070103 오류와 ... [1] VᴇɴᴜꜱGɪ 1537 02-17
6424 윈도우 / MS| 새로운 얼굴 인식 기능이 포함된 Windows 11 릴리스 프리뷰... VᴇɴᴜꜱGɪ 792 02-17
6423 업체 소식| iOS 16.3.1 / iPadOS 16.3.1 / watchOS 9.3.1 / tvOS 16.3.... asklee 635 02-16
XE1.11.6 Layout1.4.8