'이루다' 논란, 카카오게임즈 및 게임학회 '문제는 인간' : 게임샷

성희롱과 혐오발언으로 논란이 된 인공지능 챗봇 '이루다' 논란에 AI 및 게임계가 'AI가 문제가 아니다'라며 반발하고 있다.

스캐터랩에서 개발한 AI 챗봇 '이루다'는 20세 여성 캐릭터로 설정해 지난해 12월 23일 출시됐다. 그러나 출시 된 지 20일 만에 온라인 커뮤니티 등에서 '이루다'가 동성애, 장애인 등 사회적 소수자에 대해 혐오발언을 하고 남성으로 설정한 유저에게 성희롱적 언행을 하는 등 논란에 휩싸였다.

또 연애의 과학 이용자들의 카카오톡 대화를 학습하면서 사용됐던 데이터가 제대로 익명화되지 않아 개인정보유출 의혹까지 일었고, 연애의 과학 이용자들은 자신들의 정보가 이루다에 쓰일지 몰랐다며 집단 소송도 고려하고 있다.

결국 스캐터랩은 11일, 공식입장문을 내고 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다"며 12일부터 서비스를 중단한다고 밝혔다.

스캐터랩은 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중이다"이라고 밝히고, "이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI이다. 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지 함께 학습하도록 할 것"이라고 구체적인 개선 방안을 설명했다.

또 "이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획이다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다"고 덧붙였다.

연애의 과학 데이터로 인한 개인정보유출 의혹에는 "진심으로 사과드린다"며 "향후로는 데이터 사용 동의 절차를 명확하게 하고 민감한 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다"고 전했다.

논란이 확산되자 정부도 조사에 나서기로 했다. 개인정보보호위원회는 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 사실관계를 파악하는 작업에 착수했다. 참고로 현재 개인정보보호법 제73조에 따르면, '개인정보를 유출한 사업자는 2년 이하의 징역 또는 2000만원 이하 벌금해 처한다'고 규정하고 있어 불법으로 판결이 날 경우 스캐터랩 대표는 형사 처벌까지 받을 수 있다.

이에 AI 및 게임업계 전문가들은 '규제로 이어져서는 안된다'며 우려하고 있다.

카카오게임즈 남궁훈 대표는 "이 캐릭터가 현 세대와 동떨어진 이야기를 하면 모르겠지만 현 세대에 분명히 현존하는 혐오와 차별에 노출 됐을 뿐"이라며 "반성을 해야한다면 AI가 반성을 해야하는 것이 아니라 현 사회가 반성을 해야하는 것"이라고 지적했다.

또 "이루다는 교육을 목적으로 만든 AI 슈퍼컴이 아니라 수없이 출시될 AI 캐릭터 중에 하나일 뿐으로 앞으로 AI에 대한 관심을 긍정적인 방향으로 이어가야 한다"며 "엉뚱한 규제가 이제 막 시작한 AI 산업의 혁신을 가두지 않을지 걱정스럽다"는 입장을 표했다.

(좌측부터) 위정현 교수, 남궁훈 대표

위정현 교수도 "AI는 필연적으로 인간의 인식과 사회구조를 반영한다. AI가 학습하는 데이터도 인간의 편향성을 반영하고 편향된 데이터는 다시 편향된 학습을 야기한다. AI가 객관적이고 공정할 것이라는 인간의 지나친 기대가 문제"라고 지적했다.

이어 "이루다의 핵심적 문제는 제품의 낮은 수준"이라며 "답변이 부정확하고 모호함이 잦았고, 제품 컨셉이 확실하지 못했기 때문에 진화 과정에서 문제가 발생할 수 밖에 없다. 특히 왜 인간이 AI에 감동하는지에 대한 연구가 부족했다. '대충 재미있게 답변하면 된다'는 식의 설계는 머지 않은 장래에 한계에 도달 할 것"이라고 평했다.

박외진 아크릴 대표는 "이번 이루다 이슈는 AI 기술이 윤리적인 문제까지 해결할 수 있도록 성숙되지 않았기 때문에 나타난 문제"라며 "이번 사태로 기술 역량의 문제, 인공지능의 한계, 공공 지원 부족 등 문제를 총체적으로 고찰하는 계기로 삼아야 한다"고 말했다.

김은태 / desk@gameshot.net

'이루다' 논란, 카카오게임즈 및 게임학회 '문제는 인간' 성희롱 및 혐오표현, AI에게 죄가 있나