스미스 사장은 미국 워싱턴 D.C. 소재 ‘브루킹스 연구소(Brookings Institution)’에서 안면기술과 관련한 정부의 법률 규제의 필요성과 함께 관련 업계의 동참을 제시했다. MS는 지난 7월 미국 정부에 안면 인식 기술에 대한 정부 규제 및 조치 마련을 촉구한 바 있다.

안면인식과 관련, 잠재적 문제에 대한 보호장치 없이 기술 발전만 추진한다면 기술의 남용을 통제할 시기를 놓칠 수 있다는 지적이다.

현재 안면 인식 기술은 다양한 비즈니스 기회 및 사회적 이익을 창출하는 중요한 차세대 IT 기술로 각광받고 있다. 이미 세계 곳곳에서는 안면 인식 기술을 활용해 사회 문제 해결부터 비즈니스 운영 개선까지 다양한 분야에 적용되고 있다.

일례로 인도 뉴델리의 경찰은 최근 안면 인식 기술을 활용, 4일 간 실종된 3000여명의 어린이의 신원을 파악한 바 있다. 또한, 미국의 역사학자들은 1860 년대 남북 전쟁 당시 촬영된 사진 속 인물들의 신원을 확인할 수 있었다. 의학계에서는 안면 인식 SW를 통해, 아프리카인, 아시아인 및 라틴 아메리카인의 희귀 유전 질환을 성공적으로 진단했으며, 호주 국립 은행(National Australia Bank)은 안면 인식으로도 사용가능한 현금 자동 입출금기를 도입한 바 있다.

MS는 이러한 기회와 동시에 잠재적 사용 위험에 대한 경각심을 갖고 안면 인식 기술 개발의 방향성에 대해 지속적으로 확인할 필요가 있다고 언급했다. 특히 정부가 노력해야 할 문제를 사회적 편견 조장, 프라이버시 침해, 민주주의의 자유 및 인권 침해 3가지로 꼽으며 이러한 문제는 법률을 통해 해결돼야 한다고 밝혔다.

첫번째는 사회적 편견 및 차별 조장 방지다.

현재 안면 인식 기술 특히 여성과 유색인종에 대한 높은 오류율을 보이고 있어, 특정 용도로 사용될 경우 편향된 의사 결정에 따른 사회적 차별을 조장하게 될 가능성이 높다. 이에 MS는 편견과 차별 방지를 위해 기술의 역할과 한계에 대한 문서화해 투명성을 보장하고, 공인된 기관을 통한 객관적인 검증 및 비교로 기술의 정확성과 공정성 입증하자고 제시했다.

이와 더불어 새로운 법안은 신체적 또는 정신적 위험, 사생활이나 인권, 자유에 영향을 끼칠 수 있는 법률에 대한 최종 결정을 내리기 전에 의미 있는 인간적 검토(meaningful human review)가 필요하다고 말했다.

두번째는 프라이버시 보호다. 안면 인식 기술이 널리 보급되면 새로운 방법으로 사람들의 프라이버시를 침해하게 될 수도 있다. 예를 들어, 공공시설 또는 장소에 설치한 카메라를 클라우드와 연결해 실시간으로 사람들을 감시할 수 있기 때문이다.

쇼핑을 하기 위해 손님이 백화점에 들어섰다고 가정해보자. 들어서는 순간 카메라가 단순히 촬영을 할 뿐 아니라 컴퓨터를 통해 누구인지 인식하게 된다. 그리고 백화점에서 매장을 방문하거나, 물건을 구입할 때 역시 카메라가 계속 추적할 것이다. 이 정보를 백화점에서 모든 매장과 공유하게 된다면, 다음에 그 손님이 방문할 때 어느 매장을 방문해서 어떤 물건을 구입하게 될지 예상할 수 있게 된다.

MS는 “백화점과 같은 상업 시설이 이 기술을 사용하면 안 된다고 하는 것이 아니며, 오히려 이러한 디지털 기술을 이용해 고객에게 더 나은 서비스를 제공할 수 있도록 많은 기업들과 협력하고 있다”면서도 “다만 고객들은 이러한 기술이 언제 어디서 사용되고 있는 지 알아야 하고, 선택권을 가질 수 있어야 한다”고 주장했다.

기업들은 고객에게 안면 인식 기술이 사용되고 있음을 항상 공지하고, 기술 사용에 대한 동의를 구해 고객들의 프라이버시를 보호해야 하는 책임을 다해야 한다는 주장이다.

세번째는 민주주의의 자유 수호 및 인권 보호다.

민주주의는 사람들이 자유롭게 모여서 토론하고 의사를 표현할 수 있는 권리를 보장하지만, 정부의 안면 인식 기술 사용이 자유와 인권을 침해할 가능성도 배제할 수는 없다.

정부가 안면 인식 기술을 치안 유지와 같은 다양한 공공 서비스에 활용하는 경우가 많다. 하지만 만약 수많은 카메라, 대량의 컴퓨터 연산 그리고 클라우드를 무분별하게 활용한다면 정부는 안면 인식 기술을 통해 특정 인물 뿐 아니라, 대중을 지속해서 감시하는 용도로 사용할 수도 있다. 유례 없는 일이지만, 가능성이 없는 건 아니다. 조지 오웰의 소설 ‘1984’에서 인간을 통제하는 정부의 그림이 그려질 수도 있다.

이를 방지하기 위해서는 MS는 특정 인물에 대한 정부의 지속적인 감시를 제한해야 한다고 강조했다. 즉, 사법 집행 기관이 법원 명령을 받았을 경우에 한해 공공 장소에서 감시할 수 있게 허용하며, 긴급 상황이거나 사망 또는 심각한 신체적 상해 위험이 있을 경우에만 감시가 가능하도록 해야 한다는 설명이다.

안면 인식 기술 도입과 관련해 기본적인 원칙을 수립하고 잠재적인 문제에 대한 대응안을 선제적으로 제시하면서 기술의 개발 및 사용에 기여할 계획이라고 MS 측은 밝혔다.

MS는 신중한 기술 개발 및 활용을 도모하기 위한 6가지 안면 인식 기술 개발 및 사용 원칙을 제시했다. 이 6가지는 ▲개발과 적용에 있어 모든 인간을 공평하게 대하는 공정성 유지(Fairness) ▲기술의 사용 및 제한에 대한 문서화와 투명성 확보(Transparency) ▲인간에게 영향을 미칠 수 있는 사용에 대한 적절한 수준의 인류적 통제를 보장하도록 장려하고 지원하는 책임감(Accountability) ▲불법적인 차별을 목적으로 한 기술 사용을 금지하는 비차별원칙(Nondiscrimination) ▲기술을 사용하는 민간 기업이 고객에게 기술 사용 통지 및 동의를 구하도록 장려(Notice and consent) ▲국민의 민주적 자유를 위한 안전장치 마련 및 자유를 위험에 빠뜨릴 수 있는 경우에 대한 기술 사용 제한(Lawful surveillance) 등이다.

<백지영 기자>jyp@ddaily.co.kr