[디지털데일리 오병훈기자] 인공지능(AI) 산업이 글로벌 핵심 게임체인저로 급부상하고 있는 상황 속, 우리나라 국회에서도 AI 관련 제도 첫 단추인 ‘AI기본법’ 논의에 속도를 내고 있다. 관련 의원들 모두 AI 산업 발전 중요성을 공감하면서도, 기술 남용으로부터 국민을 지켜야 한다는 의무도 함께 지고 있는 상황이다. 이에 AI 기본법을 직접적으로 심사하는 과학기술정보방송통신위원회(이하 과방위)에서는 산업 진흥과 규제 사이 균형을 찾는데 집중하고 있다.

25일 국회에 따르면, 최근 과학기술정보방송통신위원회(이하 과방위)는 정보통신방송법안심사소위원회(이하 법안소위)를 열고 여야 19명 의원들이 대표 발의한 AI 관련 기본법을 심사하고 통과시켰다.

산업계가 가장 큰 관심을 보였던 규제 대상 정의는 ‘고영향AI’로 결정됐다. 이번 법안소위에서는 고영향AI 외에도 ‘AI 설명요구권’ ‘AI규제샌드박스’ ‘국가 AI위원회 영향받는 자 그룹 추가’ 등 논의 함께 이뤄졌다.

책임 있는 AI 운영 핵심 ‘설명요구권’

AI 설명요구권은 AI로부터 ‘영향받는 자’가 AI의 결정 과정을 투명하게 알 수 있어야 한다는 내용을 핵심으로 한다. 최근 국제적으로 ‘AI 블랙박스 문제’(AI의 작동 원리를 정확히 규명하지 못하는 문제) 에 대한 우려가 지속되고 있는 가운데, 이를 해결하기 위한 ‘지속 가능한 AI’ ‘설명 가능한 AI’ 등 의제에도 민관학 관심이 계속되고 있다. AI 설명요구권은 이같은 의제에 직결된 사항으로, AI 이용자 보호를 위한 핵심과 맞닿은 법안이다.

예를 들어 AI 신용평가 시스템으로 인해 대출이 거절된 국민이 있다고 가정했을 때, 해당 서비스를 운영 중인 기업 측에서 단순히 “AI 평가 결과에 따라 거절됐다”는 답변만 받을 수 있다면, 이는 충분한 설명이 될 수 없다는 것이 요지다. 신용평가와 같이 국민 삶에 지대한 영향을 미치는 AI와 관련해서는 당사자가 답변 도출 과정·원리를 알 권리가 있다는 설명이다.

이번 법안소위에서 심사된 19개 발의안 중 다수 법안이 해당 내용을 담고 있다. 직접적으로 설명요구권을 언급한 이는 황희 의원(더불어민주당)이다. 황 의원은 법안에 ‘고위험AI(고영향AI) 이용자 권리’로 ▲설명요구권 ▲이의제기권 ▲거부권 ▲자료제공요청권 등을 언급했다.

이해민 의원(조국혁신당)이 발의안 입법안에도 “사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치는 경우, 그 영향을 받는 사람은 그 사실을 사전에 알 수 있어야 하고, 해당 결과의 이유 및 원리 등에 대해 기술적‧합리적으로 가능한 범위에서 자료 제공 및 설명을 요구할 수 있고, 이의를 제기할 수 있어야 한다”고 명시돼 있다.

다만, AI 작동 원리를 세세하게 모두 공개하는 것은 기업 영업비밀과 직결돼 있어 자칫 기업 손해로 이어질 우려도 있는 부분이다. 따라서 설명요구권 발동이 가능한 경우와 설명 범위 등에 대한 세심한 설정이 요구된다.

이와 관련 이 의원은 법안소위 당시 “AI 시스템의 모든 기술적 세부사항을 공개하라는 것이 아니다”라며 “‘기술적·합리적으로 가능한 범위’라는 단서를 둔 이유도 기업의 영업비밀은 보호하되, 결정 주요 근거나 고려된 중요 요소들은 투명하게 공개될 필요가 있다는 의미”라고 강조했다.

이어 “해당 조항은 AI 개발을 제약하는 규제가 아니라 반대로 AI에대한 사회적 신뢰를 구축함으로써, 더 많은 영역에서 AI가 활용될 수 있는 기반을 만들자는 것이다. 신뢰받는 AI야말로 지속가능한 AI이기 때문”이라고 덧붙였다.

산업 진흥 기초 될 ‘AI 규제샌드박스’...업계는 “정부 직접 예산 투자가 더 절실”

산업 진흥과 관련해서는 ‘규제샌드박스’가 중점 사안으로 논의됐다. 규제샌드박스는 일종의 특례로, 현행법상 허가되지 않은 사업일지라도, 정부 감독 아래 임시적으로 허가해주는 제도를 의미한다. AI 산업 특성상 하루가 다르게 새로운 서비스가 개발되고 있기 때문에 AI기본법에서부터 논의가 이뤄지는 모습이다.

조인철 의원(더불어민주당), 권칠승 의원(더불어민주당), 이해민 의원 등을 포함한 다수 의원이 규제샌드박스를 기본법에 직접적으로 명시했으며, 해당 내용이 포함된 기본법이 법안소위를 통과했다.

이들은 모두 현행 법제도가 기술 변화 속도를 따라가지 못하고 있다는 것에 공감하고, 완전한 규제 면제보다는 안전장치를 갖춘 제한된 공간에서 실증을 허용해 기술을 먼저 시험해보고, 필요한 안전장치들을 파악하게 하자고 강조했다. 섣부른 규제로 혁신을 저해하거나, 검증 없는 무분별한 도입을 막을 수 있는 중간점이 될 것이란 의견이다.

다만, 일부 업계에서는 이보다 더 완화된 규제 기조가 필요하다는 의견을 전했다. ‘임시허용’이라는 한계 탓에 지속적이고 빠른 기술 개발이 어려운 것은 변함이 없다는 지적이다.

한 AI 기업 관계자는 “고영향AI와 같이 국민 신체 생명과 관련된 서비스가 아니라면, 빠른 혁신을 위한 과감한 미규제 기조가 필요하다고 본다”며 “가장 절실한 것은 스타트업에 대한 정부의 직접적인 자금 지원이기 때문에 국회가 법을 통해 보장해줬으면 한다”고 설명했다.

“국가AI위원회, 모든 구성원 목소리 담을 수 있어야”

AI기본법 논의 과정에서는 ‘국가AI위원회’ 구성원에 ‘AI영향받는자’ 그룹을 추가해야 한다는 의견도 제기됐다. 국가AI위원회는 정부 AI 정책을 주도하는 대통령 직속 위원회로 정부부처 관계자 및 전문가 집단이 주를 이룬다.

이해민 의원은 이곳에 실제로 AI 기술의 영향을 받는 이들 목소리를 대변해 줄 그룹이 추가돼야 한다고 주장했다. 다양한 관점이 정책 수립 단계에서부터 반영된다면, 나중에 발생할 수 있는 사회적 갈등과 부작용을 사전에 예방할 수 있고, 더 실질적이고 균형 잡힌 AI 정책을 만들 수 있을 것이란 생각이다.

다만, 해당 내용은 법안소위에서 확정된 바 없으며, 위원장이 위임을 받아 결정하기로 했다. 이 의원은 “지금까지 AI 정책을 논의하는 자리에는 주로 기술 전문가와 산업계 관계자들이 중심이 돼 왔다”며 “전문성과 식견은 매우 중요하지만 AI가 실제로 영향을 미치는 현장의 목소리, 그 영향을 직접 받는 사람들의 관점도 동등하게 중요하다”고 강조했다.