[디지털데일리 이나연 기자] 카카오가 국제 행사에서 인공지능(AI) 윤리 도입 중요성과 카카오 AI 윤리 거버넌스 체계 구축 사례 등을 주제로 발표했다.

카카오(대표 홍은택)는 지난 14일(현지시간) 스위스 제네바 UN 회의장에서 열린 ‘스타트업의 관점에서 바라본 신뢰 가능한 AI를 위한 인권 기반의 접근 및 관련 국제 규범에 대한 논의’ 보고서 발간을 기념하기 위한 행사 패널로 나섰다고 15일 밝혔다.

이 행사는 주제네바 대한민국 대표부, 서울대 인공지능 정책 이니셔티브(SAPI), Universal Rights Group(URG)이 공동 주최했다.

SAPI는 작년에 주제네바 대한민국 대표부 의뢰로 URG와 함께 ‘신기술에 관한 인권 기반의 접근’에 대한 정책 연구를 수행해 보고서를 발간한 바 있다. 올해는 신기술 중 AI에 대한 인권 기반 접근을 실천하는 방안을 스타트업의 관점에서 심도 있게 논의하는 후속 보고서를 발간했다.

이번 보고서엔 카카오의 AI 윤리 거버넌스 고도화 사례도 담겨 있다. 하진화 카카오 인권과 기술윤리팀 매니저가 본 행사에 참여해 관련 내용을 소개했다.

카카오는 그동안 연구하고 실천해 온 AI 윤리 실행 경험을 기반으로, AI 윤리 강화를 위한 가이드라인, 사내 인식을 개선하기 위한 노력 등에 대해 설명했다. 아울러 AI를 포함한 기술 윤리를 기반으로 서비스를 검토하는 것이 안전하고 신뢰할 수 있는 서비스를 만드는 데 있어 중요한 근간이라고 강조했다.

또 산업과 기업 고유 특성을 고려해 AI 윤리를 위한 거버넌스 구축을 체계적으로 논의해야 하며, AI 윤리 부서나 담당자를 지정하는 등 실질적 노력이 이용자 안전과 건강한 디지털 생태계 구축으로 이어질 수 있다고 의견을 보탰다.

카카오는 이해관계가 다양한 부서끼리 의사결정을 할 때 인권과 기술 윤리를 준수해 서비스를 만들어야 기술이 불러올 수 있는 잠재적 역기능과 부작용을 효과적으로 사전 예방할 수 있다는 것을 인지하고 협업해야 한다고도 피력했다.

아울러 인권 기반 접근(Human Rights Based-Approach, HRBA)을 토대로 AI 윤리를 준수하는 것은 지속가능경영 측면에서도 가치 있는 일이며 기업과 인권 이행 지침(UNGP) 일환이라고 덧붙였다.

하진화 카카오 인권과 기술윤리팀 매니저는 “카카오 AI 윤리 이슈는 ‘리스크 식별-과제 우선 순위 선정-문제 개선’ 절차에 따라 체계적으로 관리되고 있다”며 “일련 과정은 카카오 인권 경영 원칙과 긴밀하게 연관됐다”고 설명했다.

카카오는 지난 2018년 알고리즘 윤리 헌장을 발표하며 국내 기업 최초로 알고리즘 윤리 규범을 마련했다. 이어 지난해엔 국내 기업 최초로 전사적 AI 윤리 논의 기구인 ‘공동체 기술윤리위원회’를 신설했다.

공동체 전반에 걸쳐 기술 윤리를 점검하고, 이를 사회와 함께 발전시키는 방안을 지속 연구하겠다는 취지다. 카카오 공동체 서비스들 AI 윤리 규정 준수 여부와 위험성 점검, 알고리즘 투명성 강화 등을 위한 체계적 정책 개선 업무를 수행한다.

이채영 카카오 공동체 기술윤리위원회 위원장은 “사회적 책임에 걸맞은 윤리적 규범과 원칙에 대해 고민하고 기술을 활용한 서비스를 제공할 때 윤리적 접근 방식을 고려하는 것은 매우 가치 있고 중요한 일”이라며 “카카오는 책임을 갖고 앞장서서 기술 윤리를 준수할 것이며, AI 윤리 점검 도구 개발에 힘쓰고 구체적인 실천 방안을 마련하기 위해 노력하겠다”라고 말했다.