인터넷

흑인 남성은 영장류? 페이스북, AI 인종차별 사과

디지털데일리 발행일 2021-09-05 10:58:47
  • 가
  • 가
최민지
-페이스북, “용납할 수 없는 오류” AI 비활성화 조치

[디지털데일리 최민지기자] 페이스북 인공지능(AI)이 인종차별 논란을 받고 있다. 흑인 남성이 출연하는 영상에 ‘영장류’로 표기한 것이다. 페이스북은 즉각 사과하고 AI 비활성화 조치를 취했으나, AI윤리 문제는 지속적으로 도마 위에 오르고 있다.

4일(현지시간) 뉴욕타임즈 등 주요 외신에 따르면 페이스북은 흑인 남성이 백인 경찰 등과 다투는 모습을 담은 영상을 본 사용자에게 “영장류 비디오를 계속 볼 것인지”를 묻는 자동 메시지를 표출시켰다. 이는 영국 데일리메일에서 게시한 영상으로, 지난 6월 게시됐다.

원숭이 등을 일컫는 ‘영장류’라는 단어를 자동으로 노출시킨 것은, 흑인에 대한 인종차별 요소를 담고 있다는 지적이다.

이에 페이스북은 자동으로 메시지를 보여주는 AI 기능을 비활성화하고, “용납할 수 없는 요류”라고 인정했다. 페이스북 측은 “AI를 개선했음에도 아직 완벽하지 않은 만큼, 더 발전해야 할 부분이 있다”며 “다시는 이런 일이 발생하지 않도록, 추가 조사를 진행하겠다”고 말했다.

이러한 AI 인종차별은 페이스북만의 문제가 아니다. AI가 인간의 편견을 학습하면서 나타난 무분별한 차별 논란은 지속되고 있다.

AI챗봇 ‘이루다’는 비속어를 섞어 흑인이 싫다는 발언을 했다. 이루다는 인종차별뿐 아니라 여성‧남성, 성소수자 혐오를 비롯해 장애인 비하 및 성희롱 논란 중심에 선 바 있다. 아마존은 AI 프로그램이 여성지원자에게 자동으로 감정을 주면서, 해당 시스템을 폐기했다.

앞서, 구글은 흑인 사진을 ‘고릴라’로 표기했다. 트위터 알고리즘은 흑인, 이슬람교도, 장애인, 노인을 차별하는 사람들 편견을 학습한 대표 사례다. 이를 해결하고자 지난달 트위터는 알고리즘 편향 공모전을 실시했다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
최민지
cmj@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기

이 기사와 관련된 기사

디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스