[디지털데일리 이종현기자] 인공지능(AI) 알고리즘이 학습을 통해 인종이나 성별, 정치 등에 대한 편향성을 지닌다면 어떻게 할까. 이런 문제를 고민하는 AI 윤리에 대한 문제가 고개를 들고 있다. 스타트업 스캐터랩의 AI 챗봇 서비스 ‘이루다’ 때문이다.

지난달 23일 출시한 이루다는 학습을 통해 실제 사람처럼 대화가 가능한 AI다. ‘20대 여대생’이라는 설정을 지닌 이루다는 ‘게이’나 ‘레즈’ 등의 단어에 ‘끔찍해’, ‘죽기보다 싫어’, ‘소름끼쳐’ 등의 대답을 내놓으며 도마 위에 올랐다. 또 흑인에 대한 질문에는 ‘징그럽게 생겼다’고 답하는 등 AI에 심각한 편향성이 드러냈다.

거기다 이루다의 학습에 활용된 데이터가 사용자 고지를 하지 않은 상태에서 활용됐다는 비판도 제기됐다.

스카터랩 측은 지난 11일 ‘연애의과학’ 애플리케이션(앱) 공지사항에서 “이루다의 학습은 연애의 과학 데이터를 기반으로 이뤄진 게 맞다”며 “개인정보취급 방침의 범위 내에서 활용한 것이기는 하지만 사용자들에게 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”고 공지했다.

스카터랩은 연애의과학 앱의 개인정보 취급방침에서 ‘신규 서비스 개발 및 맞춤 서비스 제공, 통계학적 특성에 따른 서비스 제공 및 광고 게재, 서비스의 유효성 확인, 이벤트 및 광고성 정보 제공 및 참여기회 제공, 접속빈도 파악, 회원의 서비스 이용에 대한 통계’라고 안내하고 있다.

대부분의 이용자가 개인정보 취급방침을 자세히 읽지 않는다는 문제점도 있지만, 그 이상으로 광대한 데이터 활용을 강제한다는 비판이 제기된다.

개인정보보호법에서 정보주체의 동의를 받은 개인정보는 활용할 수 있도록 하고 있으나 그 활용 범위는 제한돼야 한다는 것이 법학계의 중론이다. 개인정보보호위원회(이하 개인정보위) 역시 유명무실한 개인정보 수집·활용 동의 절차를 개선하겠다고 밝힌 상태다.

또 이루다의 경우 개인정보 유출 논란도 더해졌다. 특정 이름을 입력할 경우 기반이 된 이의 주소나 계좌 정보, 연인과 함께 갔던 숙박업소의 이름 등의 정보를 답한 것.

이와 같은 각종 논란에 대중들이 들고 일어났다. 한국인공지능윤리협회를 비롯해 산업계 전반의 비판이 이어졌다.

한국인공지능윤리협회는 11일 “AI 기업들에게 AI 제품 출시 전 AI윤리 가이드라인의 자율적 준수와 검증을 촉구한다”는 성명을 발표했다. ▲AI 편향성 ▲AI의 오류와 안전성 ▲AI의 악용 ▲개인정보유출 ▲킬러로봇 등이 AI 5대 문제로 꼽히는데, 이루다는 이 범주에 다수 속했다.

협회는 “AI 기술은 인간의 편익과 행복을 위한 기술이지만 잘못 개발되거나 사용될 때 인간에 미치는 위험성과 역작용이 막대할 수 있다”며 “가이드라인을 지키지 못한 AI 챗봇 서비스에 대해 서비스 중단을 요청하며, 추후 AI 윤리 가이드라인을 확인하고 적용하고 개선한 후 재출시하기를 촉구한다”고 입장을 밝혔다.

이루다는 12일부터 서비스를 중단한다. 하지만 이루다로 인해 드러난 AI 및 데이터 활용은 앞으로 논의가 지속되며 덩치를 불려갈 전망이다. 그간 AI 스피커에 대한 비판 등에서 논의되던 AI 윤리가 수면 위로 드러나게 됐기 때문이다.

개인정보위와 한국인터넷진흥원(KISA)은 이루다가 개인정보보호법을 위반했는지 조사에 들어갔다. 타인의 주소 등을 노출한 것은 개인정보보호법 위반을 피하기 어렵다. 또 개인정보 취급방침을 고지하는 것 외에 개인정보 수집 및 활용 동의도 받아야 한다. 정보주체의 동의를 받지 않은 개인정보를 활용할 경우 매출액의 100분의 3 이하에 해당하는 징벌적 과징금이 책정될 수 있다.

한편 이슈가 확산함에 따라 산업에 대한 과도한 규제가 적용되진 않을지 걱정하는 목소리도 나오고 있다. 남궁 카카오게임즈 대표는 11일 페이스북을 통해 “이제 시작일 뿐인 이 산업, 매력적인 시작으로 보이는 이 캐릭터에 엉뚜한 규제로 혁신이 가둬지지 않을까 걱정된다”며 “모처럼 일어난 AI에 대한 사회의 관심을 긍정적인 방향으로 이끌어내야 한다고 생각한다”고 말했다.

또 그는 “이 캐릭터(이루다)는 현 세대와 동떨어진 이야기를 하는 것이 아닌 현 세대에 현존하는 혐오와 차별에 노출된 것”이라며 현 세대가 가지고 있는 혐오와 차별이 문제라고 지적했다. 문제에 대한 근본적 고민, 해결이 필요하다는 입장을 밝힌 것이다.

<이종현 기자>bell@ddaily.co.kr