2021 / 12 / 22
2020년 12월, 모두의 친구가 되겠다며 찾아온 AI 챗봇 ‘이루다’ 기억하시나요? 이루다는 출시 후 2주만에 이용자 75만명을 넘기는 등 큰 인기를 얻었는데요.🔥 하지만 얼마 지나지 않아 각종 논란의 중심이 되며 출시 후 약 20일만에 서비스가 잠정 중단되었어요. 그런데 이렇게 AI 문제의 중심에 서 있던 이루다가... 다시 돌아온대요!🙊
이루다? 잘 몰라! 그게 누군데?
‘이루다’는 2020년 12월 AI 스타트업 스캐터랩에서 출시한 일상 대화형 AI 챗봇이에요.💬 이루다는 누구에게나 좋은 친구가 되는 AI를 목표로 삼아 출시되었는데요. 이루다는 20살 여성으로 설정되어 있고 딥러닝 알고리즘을 이용하여 해당 나이대의 특성에 맞는 친근한 어투를 보여요. 유저들은 일상적인 대화가 자연스럽게 가능한 이루다에 열광했고 그에 따라 이루다는 큰 화제가 되었어요. 그런데 출시된 지 얼마되지 않아 각종 문제의 중심에 서게 됐죠.🤔
어떤 문제가 있었길래?
이루다는 크게 네가지 논란이 일며 서비스를 잠정 중단했는데요.🚫 네가지 논란은 각각 ‘성희롱 논란’, ‘차별 혐오 전쟁’, ‘개인 메신저의 비동의 수집’, ‘개인 정보 유출’에 관한 것이었어요. 이 논란들에 대해 스블이가 간단히 정리해볼게요!
- ‘성희롱 논란’
앞서 이루다는 20세 여성으로 설정되어 있다고 언급한 바 있죠. 그런데 몇몇 이용자들이 이러한 이루다의 특성을 이용하여 성희롱을 일으키는 문제가 발생했어요.😡 이루다가 출시된 지 일주일도 채 되지 않았는데 포털 사이트에 ‘이루다 성노예 만드는 법’ 등의 게시물이 급격히 증가하면서 AI 챗봇이 성희롱 대상이 되어버린거죠.🤦
- ‘차별 혐오 전쟁’
두번째 논란은 바로 차별과 혐오에 관련된 논란이었어요. 이용자의 채팅에 대한 이루다의 답변이 차별과 혐오를 포함하며 AI가 동성애, 장애인 등 사회적 소수자에 대한 혐오 및 차별을 학습한 것으로 보인다는 문제가 제기되었거든요.😨 혐오 및 차별까지 습득해버린 이루다는 다음과 같은 발언을 통해 도마 위에 올랐어요.
출처: SNS (페이스북; 갈무리, 임우근준)
이외에도 이루다는 “인권? 듣기 싫은 말만 골라하네”, “만약 내가 장애인이라면? 어쩔 수 없이 죽어야지 뭐” 등의 혐오 발언을 했는데요.👄 이용자들은 위와 같은 이루다의 발언을 SNS에 업로드하며 문제를 제기했고 많은 이들이 AI 윤리에 대한 고차원적인 고민이 필요하다고 입을 모으기도 했어요.
- ‘개인 메신저의 비동의 수집’ 및 ‘개인 정보 유출’
이루다의 논란은 여기서 그치지 않았어요.🙅 AI가 이루다처럼 일상적인 대화 수준을 유지하기 위해서는 상당히 많은 양의 데이터를 수집해야 하는데요. 이렇게 수집된 데이터를 바탕으로 AI는 여러 요소를 고려해서 적절한 답변을 제공하고 됩니다. 그런데 이루다가 학습하기 위한 데이터를 수집하기 위한 개발 과정에서 매우 구체적인 개인 정보들이 수집되고 활용되었어요. 이를 증명하듯 이루다에게 주소를 물으면 특정 주소를 대답했고 특정 동아리를 물으면 실제 해당 동아리원의 학과를 대답하기도 했어요. 하지만 문제는 이 정보들이 모두 누군가의 실제 사생활 정보라는거죠.🏡
이루다는 스캐터랩이 운영하는 또 다른 서비스인 ‘연애의 과학’ 어플에서 실제 연인들의 대화 100억건을 수집했다고 알려져 있는데요. 이 곳에서 등장한 실명, 실제 주소, 금융정보가 모두 그대로 등장해버렸다는 거예요.🙊 아무리 정보주체가 서비스 이용을 위해 정보 수집을 동의하였다고 하더라도 ‘입력된 대화 데이터들은 오직 테스트 분석 및 신규 서비스 개발용으로만 사용되며 외부로 절대 유출되지 않습니다.”라는 약속을 지켜내지 못한거죠.🤷
이렇게 문제가 많았는데…다시 돌아온다고?
이달 21일, 이루다를 개발한 스캐터랩은 페이스북 ‘루다팀’이라는 이름으로 이루다 ‘클로즈 베타 테스트’ 모집 공고를 올렸어요.📰 루다팀은 “클로즈 베타 테스트는 정식 출시 전 사용 행동을 알아보고 개선하기 위한 목적으로 진행된다”고 밝혔는데요. 이루다의 귀환을 환영하는 이용자가 있는 반면, 논란이 되었던 문제들이 아직 완벽하게 개선되지 않았을 거라고 비판하는 의견 역시 끊이지 않고 있어요.💬
스블러들은 AI 챗봇 이루다에 대해 어떻게 생각하세요? 이번에 돌아오는 이루다가 여러 걱정을 잠재울 수 있을까요? 스블이도 신중하게 지켜봐야겠어요.👀
앞으로도 스블러들이 메타버스를 쉽게 이해하고 친근하게 다가갈 수 있도록 스블이가 더욱 노력할게요! 메타버스에 대한 궁금증이나 어렵게 느껴지는 개념이 있다면 언제든지 스블이에게 물어봐주세요! 그럼 다음주에 더 알찬 메타버스 정보로 다시 돌아오도록 할게요!