[디지털데일리 김보민기자] 인공지능(AI)이 내린 결정에 대해 추가 설명을 요청할 수 있는 법적 근거가 마련됐다. 해당 결정이 개인 삶에 특정 수준의 영향을 끼칠 경우 거부권을 행사할 수 있는 내용도 포함돼, 어느 선까지 보호를 받을 수 있을지 시비가 이어질 전망이다.

개인정보보호위원회(이하 개인정보위)는 지난 4일 정부서울청사에서 개인정보 보호법 시행령 2차 개정 관련 설명회를 개최했다. 현장에는 김직동 개인정보위 개인정보보호정책과장 등 주요 관계자들이 참석했다.

이번 개정안은 '완전히 자동화된 결정'에 대한 정의를 내린 것이 핵심이다. AI 시대에 발맞춰 정보 주체의 권리를 보호하기 위한 기본 틀이 마련된 셈이다.

완전 자동화된 결정은 사람 개입 없이 자동화 시스템으로 개인정보를 분석·처리할 경우에 한해 인정된다. 정보주체는 완전히 자동화된 결정에 대해 설명 또는 검토를 요구할 수 있다.

정보 주체가 설명을 요구하면 개인정보처리자는 AI를 비롯해 자동화 시스템이 어떻게 해당 결정을 내린 것인지 답변을 제시해야 한다. 다만 해당 답변은 '간결해야 한다'는 조건을 충족할 필요가 있다. 김직동 과장은 "AI 알고리즘 등 세부 내용을 공개하라는 의미가 아니다"라며 "정보 주체가 이해할 수 있도록 간결한 설명을 제공하자는 취지"라고 말했다.

일례로 AI 면접 중 완전 자동화된 시스템으로 불합격 결과가 나왔을 경우 응시자는 그 이유를 설명해 달라고 요청할 수 있지만, 매개변수(파라미터)를 비롯해 기술적 작동 원리를 나열한 답변을 받을 수 없다는 의미다. 개인정보위는 '간결한 설명'에 대한 설명을 담은 안내서를 공개해 개인정보처리자와 정보주체 간 혼선을 최소화할 예정이다.

AI가 내린 결정이 정보주체 권리나 의무에 '중대한 영향'을 끼칠 경우에는 거부권을 행사할 수도 있다. 일례로 공공기관이 복지수당을 지급한 후 'AI부정수급자 탐지시스템'만으로 수급자 개인정보를 분석했다는 조건 하에, 최종적으로 복지수당 지급을 취소됐을 경우 거부 행사가 가능하다. 다만 AI 면접 불합격 결과를 거부하는 내용은 해당되지 않는다.

다만 중대한 영향에 대한 개인정보처리자와 정보주체의 기준이 다를 수 있어 시비가 계속될 전망이다. 특히 '자동화된 결정이 이뤄진다는 사실에 정보주체가 명확히 알 수 있도록 동의, 계약 등을 통해 미리 알렸거나 법률에 명확히 규정이 있는 경우 거부가 인정되지 않는다'는 내용이 포함돼 사실상 정보주체를 보호할 수 없는 게 아니냐는 의견도 제시됐다.

이와 관련해 개인정보위 측은 "완전 자동화된 결정 등에 내용을 포함한 것은 투명성을 높이자는 취지"라며 "해당 결정이 정보주체에 영향을 미쳤을 때 구제받는 절차를 정하는 것은 아니다"라고 설명했다.