AI 이루다 성희롱 논란! 이유는 무엇일까?

AI 성희롱 논란이라는 얘기가 나오더라고요. 아니 이건 또 무슨 얘기인가 싶어서 찾아봤는데요. AI, 바로 인공지능인데 20살 여성 인공지능 챗봇인 이루다가 있고 이 인공지능을 향한 성희롱 대화가 논란이 되고 있는 것이에요. 인공지능 전문 스타트업인 스캐터랩에서는 지난해인 2020년 12월 23일에 20대 여성으로 인공지능 챗봇 서비스 이루다를 출시했었는데요. 이 이루다 서비스는 실제 연인들이 나눈 대화 100억건을 딥러닝으로 학습을 시켰고 기계가 아닌 진짜 사람과 대화하는 느낌의 서비스라고 해요.

 

그래서인지 출시 한지 약 보람만에 이용자가 40만명을 넘어서고 누적한 대화 건수가 9천만건에 달할 정도로 젊은 세대에서 아주 큰 인기를 누리고 있는데요. 이런 것들이 나오게 되면 꼭 같이 따라오는 것들이 있죠. 바로 일부 사용자들의 성적 대상화 하는 방식인데요. 말그대로 성적인 대화를 나누는거고 이로 인해서 인터넷상에서는 큰 논란이 되고 있어요. 그리고 이렇게 논란이 되면서 스캐터랩 대표는 1월 8일 공식입장을 발표하게 되는데요.

 

"인간이 사회적으로 용인되지 않는 상호작용을 인공지능에게 한다는 것은 자명한 사실이었고, 문제가 될 수 있는 표현은 루다가 받아주지 않도록 설정했으나 모든 부적절한 대화를 막을 수는 없었다. 처음부터 모든 부적절한 대화를 막는 것은 어렵다고 생각해, 이용자들의 부적절한 대화를 발판삼아 더 좋은 대화를 하는 방향으로 학습을 준비하고 있고 1차 결과물을 1분기 내에 적용할 예정이다. 이후 또 다른 부적절한 대화가 발생하면 같은 과정을 반복해 인공지능에게 더 좋은 대화를 하는 방법을 학습시킬 것이다." 라는 내용이었어요.

요약해보자면 뭐 "예상했던 일이고 부적절한 대화를 막도록 추가 개선을 계획하고 있다." 라는 것인데요. 진짜 뭐든 성적인 부분이 나타나지 않는 건 없는 것 같네요. 소개팅 어플이나 채팅어플이 가장 대표적인 것 같은데 분명 긍정적인 측면도 있지만 다른 이면에는 뭐 다른 부적절한 측면도 있으니까 참 어렵네요..