[디지털데일리 이안나기자] 마이크로소프트(MS)의 생성형 인공지능(AI)를 적용한 안면인식 기술이 일부 예외적 경우를 제외하곤 전 세계 법 집행 기관에서 사용이 금지된다. 이번 MS 결정은 AI 활용성과 위협 사이 균형을 맞추려는 IT업계 고군분투를 반영한 것이라는 해석이 나온다.

4일(현지시각) 더 레지스터 등 외신에 따르면 MS는 최근 애저 오픈AI 서비스 행동 강령을 업데이트했다. 이번 행동 강령엔 MS AI 서비스가 미국 내 법 집행 기관에 의해, 혹은 법 집행을 위한 얼굴 인식을 목적으로 사용을 금지하는 내용이 추가됐다.

MS는 이 내용이 ‘전 세계 모든 법 집행 기관’을 대상으로 하며, ‘통제되지 않은 환경’에선 사람을 식별하기 위한 신체 카메라 등 모바일(이동식) 카메라에서 실시간 얼굴 인식 기술을 사용하는 것도 안 된다고 명시했다.

이전엔 얼굴 인식을 통한 개인 식별을 금지하는 대상이 ‘미국 내 주 또는 지역 경찰을 포함한 모든 사람’이었으나 바뀐 정책에선 이런 제한을 전 세계로 확대했다.

MS가 제시한 지침엔 ‘이동식 카메라’와 ‘통제되지 않은 환경’ 등 조건이 구체적으로 제시됐는데, 이는 일부 상황에선 예외가 존재할 수 있음을 내포하는 것이라고 외신들은 분석했다. 가령 미국이 아닌 다른 국가 법 집행 기관에선 고정식 카메라를 사용해 얼굴 인식을 수행할 수 있으며, 경찰서 등 통제된 환경에서 녹화된 신체 카메라 영상도 사용할 여지가 있다고 본 것이다.

이번 정책 변경은 법 집행기관 및 군사용 무기 제조업체 엑손(Axon)이 오픈AI GPT-4 모델을 활용해 신체 카메라의 오디오를 요약하는 새로운 제품을 발표한 지 일주일 만에 이뤄졌다. Axon은 미국 법 집행 기관에 신체 카메라를 가장 많이 공급하는 기업이다.

Axon은 신체 카메라에 안면 인식 기술을 탑재하는 것을 고려했지만, 전문가들 사이에선 이 기술이 각종 훈련 데이터에서 비롯된 인종적 편견 등 잠재적 위협을 지적하자 결국 출시를 중단했다. 다만 Axon이 MS 애저 오픈AI 서비스를 통해 GPT-4를 사용했는지, 업데이트 된 정책은 Axon 제품 출시에 따른 것인지는 불분명하다.

지난해 미국 연방거래위원회(FTC)는 생체인식 기술 사용이 증가하자 보안, 개인정보 보호, 차별에 대한 심각한 우려가 제기되고 있다고 경고한 바 있다. 특히 안면인식 기술은 엄청난 프라이버시 침해를 수반한다는 이유로 유럽연합(AI) AI법에서도 ‘위험’으로 규정하고 사용을 엄격히 제한했다.

IT전문 매체 PYMNTS는 “(MS의) 이러한 움직임은 빅테크 기업들이 잠재적인 사회적 해악에 대한 우려 속에서 AI 시스템에 대한 보호 장치를 점점 더 강화하고 있다는 신호이며, 기업이 AI 사용 방식에 신중해야 하는 이유를 보여주는 사례”라고 전했다.