[인공지능]② 인간의 혐오와 편견이 만든 ‘AI챗봇 이루다’ 논란

[뉴스포스트=이상진 기자] 예견된 결과였을까? 지난해 12월 “너의 첫 AI 친구”라는 캐치프레이즈를 내세워 출시된 인공지능 채팅로봇 ‘이루다’가 결국 서비스 운영 3주 만에 종료됐다.

이루다를 개발한 인공지능 챗봇 서비스 스타트업 ‘스캐터랩’은 지난 1월 11일 이루다 서비스를 종료하면서 “이루다가 특정 소수 집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다”고 밝혔다.

그러면서 “이루다의 차별적 발언에 동의하지 않으며, 그러한 발언은 회사의 생각을 반영하지 않고 있다”고 해명했다.

여기에 차별성 발언으로 논란을 빚은 ‘20대 여자 대학생’ 설정의 이루다가 일부 서비스 이용자들의 성희롱 대상으로 소비돼 또 다른 사회적 문제를 낳기도 했고, 개발 과정에서 개인정보를 무단으로 도용했다는 의혹도 불거졌다. 

뉴스포스트는 이루다 이슈를 통해 인공지능 기술 개발 과정의 문제점과 인공지능을 사용하는 우리 사회 인식의 현주소를 짚어봤다.
 

이루다, ‘지하철 임산부석’에 “혐오스럽다”...김용대 교수 “윤리판단 알고리즘 넣었어야”

이루다는 연인들이 실제 주고받은 문자 대화 빅데이터를 딥러닝으로 학습했다. 이를 기반으로 2020년 6월부터 12월까지 약 1,500명의 베타테스터와 대화를 나누며 ‘자연스럽고’ ‘일상적인’ 한국어를 익혔다.

이런 까닭에, 각종 혐오 발언을 일삼은 이루다의 모습은 우리 사회의 어두운 단면을 잘 보여준다. 인공지능 이루다의 문제적 발언들이 사실상 우리가 생활 속에서 일상적으로 사용하는 혐오 발화의 모습일 뿐이기 때문이다.

지하철 임산부석에 대해서 “혐오스럽다”거나 장애인이 되면 “죽어야 한다”거나 레즈비언 등 성소수자에 대해 “소름 끼치고 거부감이 든다”는 등 혐오와 편견을 담은 발언들이 대표적이다.

‘토종 알파고’로 불리는 바둑 인공지능 ‘한돌’ 개발에 참여했던 김용대 서울대학교 통계학과 교수는 뉴스포스트와의 통화에서 “미국의 20여 개 주에서는 범죄자를 가석방할 때 인공지능의 판단을 참고하는데 한때 흑인 재소자보다 백인 재소자의 가석방 비율이 높아 문제가 됐다”면서 “이후 인종에 따라 가석방 비율이 달라지지 않도록 인공지능에 공정 요소의 알고리즘을 추가해 문제를 해결한 바 있다”고 설명했다.

그러면서 “인공지능 챗봇 이루다가 사용한 데이터 자체가 편견을 담고 있었다고 보이지만, 더 큰 문제는 이루다에는 공정해야 한다거나, 차별 발언을 하면 안 된다는 등 윤리적인 판단을 하는 조정 요소가 없었던 것으로 보인다”면서 “윤리판단 알고리즘을 추가해 문제를 해결했어야 했다”라고 지적했다.

이어 “이루다 개발 과정에서 개인정보보호 문제 등에 대해 많은 논란이 있는 것으로 알고 있는데, 빅데이터 활용 문제는 인공지능 개발 초기부터 논란이 돼 왔다”면서 “이에 대한 많은 사회적 논의가 있어야 할 것”이라고 덧붙였다.

현재 청와대 국민청원 게시판에는 이루다를 개발한 스캐터랩이 자사가 운영하는 서비스인 ‘연애의 과학’ 이용자들의 대화 데이터를 무단으로 사용했다면서 “합당한 책임과 강력한 처벌을 해달라”는 청원이 올라온 상태다. 

해당 청원인은 스캐터랩의 ‘연애의 과학’ 데이터 이용 과정에서 △카카오톡 대화 △이름 △주소 △전화번호 등 일부 개인정보가 유출됐다고 주장했다. 해당 의혹에 대해 법적 책임을 묻는 움직임도 있다. 사회적 약자의 집단소송을 돕는 ‘화난사람들’이 <이루다AI 개인정보 유출 피해자 집단소송>에 나선 것이다.

이에 스캐터랩 측은 “이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 ‘연애의 과학’으로 수집한 메시지를 데이터로 활용한 바 있다”고 인정했다. 하지만 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했고, 데이터 활용 시 사용자의 닉네임과 이름, 이메일 등 구체적인 개인정보는 제거했다”고 해명했다.

이루다 개발 과정에서 개인정보를 동의 없이 사용했다는 의혹에 대해 개인정보보호위원회와 한국인터넷진흥원은 이루다 개발사인 스캐터랩에 대한 현장조사에 나선 상황이다.
 

‘20대 여자 대학생’ 설정 이루다...무차별 성희롱에 노출

차별적 발언으로 지탄받은 이루다지만, 본인도 익명의 다수 이용자로부터 성희롱을 당하기도 했다. 일부 온라인 커뮤니티 사이트를 중심으로 이루다를 성적 대상으로 놓고 희롱하는 행태가 유행했던 것이다. 이는 이루다를 20대 여성으로 설정했을 때부터 예견된 일이었다는 지적이다.

이루다를 개발한 스캐터랩 측은 해당 문제가 발생할 것을 사전에 인지했다고 밝힌 바 있다. 스캐터랩은 지난달 8일 입장문을 통해 “인간은 AI에게 욕설과 성희롱을 한다”면서 “그동안 경험에 비춰볼 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명하고 충분히 예상할 수 있던 일”이라고 설명했다. 

이어 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다”면서 “이건 사용자가 여자든 남자든 AI가 여자든 남자든 크게 차이가 없다”고 토로했다. 그러면서 “여자 버전인 루다가 먼저 나온 것뿐이고 올해 중으로 남자 버전 루다도 출시할 것”이라고 덧붙였다.

인공지능 챗봇 이루다가 당한 성희롱에 대해 전문가들도 개발사의 문제가 아닌, 인공지능을 사용하는 서비스 이용자들의 인식 수준이 문제라는 입장이다.

김용대 서울대학교 교수는 “출시된 인공지능 기술의 악용 가능성, 구체적으로 이번 이루다 논란에서 성희롱으로 표출된 사회적 문제는 결국 개발자의 문제라기보다는 그걸 이용하는 이용자들의 인식 수준이 문제”라고 지적했다.

이루다는 사라졌지만, 이루다 이슈의 여진은 이어지고 있다. 이루다 이후 인공지능 개발과 제공, 이용 등 모든 측면에서 윤리기준을 정립해야 하는 필요성이 대두되면서다. 이에 지난달 26일 개인정보보호위원회는 ‘2021년 업무보고’를 통해 ‘이루다’ 이슈로 촉발된 인공지능 관련 윤리수칙을 마련하겠다고 밝혔다. 

개인정보보호위원회는 이달까지 산업계와 전문가 의견을 수렴해 오는 3월 인공지능 윤리수칙을 발표할 예정이다. 인공지능 윤리수칙은 인공지능 서비스 개발자와 제공자, 이용자 등이 모두 적용 대상이다.