[디지털데일리 이건한 기자] 국내 인공지능(AI) 기본법 제정을 위한 제22대 국회의 본격 드라이브가 시작됐다. 과학기술방송통신위원회(과방위)는 24일 과방위 전체회의실에서 민간 전문가 4인, 과학기술정보통신부 담당자 2인을 진술인으로 부르고, AI 기본법에 대한 기업, 학계, 시민사회, 관의 입장을 청취했다.

약 2시간30분가량 진행된 이날 첫 공청회에서 날카로운 합의점은 도출되지 않았다. 그러나 한국의 AI 기본법은 해외 AI법과 호환성을 갖되, 기술 진흥과 사회적 합의의 균형이 중요하다는 대전제에 대해서는 참석자 모두가 공감했다. 이에 지속적인 토론과 합의 과정을 통해 보다 특징적인 한국형 AI 기본법 마련에 대한 기대감이 높아졌다는 평가다.

고환경 "유연한 규제 프레임, 기존 법제도 손질하며 AI 선진국 추격해야"

이날 민간 전문가 중에는 고환경 법무법인 광장 변호사(법), 배경훈 LG AI 연구원장(기업), 유승익 한동대학교 연구교수 겸 참여연대 사법감시센터 부소장(시민사회), 최경진 가천대학교 교수 겸 인공지능법학회 회장(학계)가 진술인으로 나섰다. 관에서는 과기정통보 강도현 제2차관, 엄열 정보통신정책관이 참석했다.

고환경 변호사는 'AI 위험성에 대한 우려는 과장된 것'이란 전제로 "AI의 실증적 위험은 기술 그 자체보다 AI의 구체적 사용 사례에서 비롯될 가능성이 높다"며 "서비스 단위에 대한 투명성 규제를 통해 실질적 위험을 통제하는 방안이 충분히 고려되어야 한다"고 강조했다. 강력하고 전방위적인 규제 프레임으로 AI 기본법을 접근할 경우, 글로벌 경쟁에 대비하기 어렵고, 기술에 따른 위험을 적시에 담아내기 어렵다는 시각이다.

또한 최근 딥페이크 이슈처럼 AI 진흥에 따르는 서비스 안전성, 보안, 소비자 보호 측면은 기존 법체계 아래서도 충분히 규제할 수 있도록 관련 법제도를 함께 정비하는 것이 필요하단 입장을 제시했다. 거버넌스 측면에선 컨트롤타워 역할을 할 국가인공지능위원회, 잠재적 위협 요소를 연구할 인공지능 안전연구소도 조속히 설립해 글로벌 추세를 따르되, 해외 규제와 상호운영성의 중요성도 필요하다고 덧붙였다.

배경훈 "AI 안전·윤리 확보, 기업의 자율적 노력 따를 것…민관 3박자가 중요"

산업계 입장을 대변한 배경훈 LG AI연구원장은 'AI가 인류의 다양한 문제 해결에 기여할 수 있다'는 전제로 "AI 기본법은 기술 발전과 산업진흥의 가속 방향으로 초점을 맞추되, 위험 요소 제거를 위한 사회적 합의가 필요하다"는 입장을 밝혔다. 다만 균형을 강조하면서도 기업 지원 우선의 중요성과 자율 규제의 필요성을 강조했다.

배 원장은 "현재 AI 선도국인 미국, 중국을 제외한 나머지 국가들의 격차가 굉장히 큰 상황이다. 우선 기업이 AI 위험 완화 측면에서 자발적 노력을 하도록 도와달라"며 "기업이 각각의 AI 윤리 원칙을 지키는 것은 (법제도와 별개로) AI 제품과 서비스를 사용하는 고객 신뢰와 직결되는 문제이기 때문"이라고 말했다. 이어 AI 규제는 필요하다면 기술 자체가 아닌 오남용 방지에 초점을 맞추고, 고 변호사와 마찬가지로 해외 AI법과 정합성을 고려하되 유럽연합(EU)이나 미국법에 일방적으로 따르지 말아야 한다고 덧붙였다.

특히 정부, 기업, 시민사회 각자가 역할에 충실할 것도 주문했다. 기업은 책임감을 갖고 AI를 개발하며 정부는 연구개발 투자 확대에 나설 것, 시민사회는 AI 리터러시(사용법, 인식) 향상을 통한 윤리 감시자 역할의 삼박자가 이뤄질 때 한국이 진정한 AI 선도국가로 자리매김할 것이란 견해다.

유승익 "개문발차식 입법은 위험…AI 제공자·사용자 구분 뚜렷해야"

그간 AI 기본법 논의에서 시민사회는 대체로 진흥보단 안전과 보수적 측면에서 신중한 접근을 주문했다. 이날 시민사회를 대변한 유승익 한동대 연구교수도 현재 국내 AI 기본법 논의 추세는 '진흥 위주로 먼저 입법하고 문제가 발생하면 보완하겠다는 '개문발차(開門發車, 문이 열린 채로 출발하는 차)' 형태와 다르지 않다며 비판적 시각을 드러냈다.

유 교수는 "진흥과 규제는 이원론적인 것이 아니다. 규제가 전제되지 않은 진흥은 진흥이 될 수 없다"며 "AI의 현실적 위험은 계속 보고되는 객관적 위험이 명백한데, 제도적 안전장치 없이 입법될 경우 세계적으로 유래 없는 졸속 입법이 될 것"이라고 말했다.

이와 함께 제시한 시민사회안은 AI 기본법 구조부터 기존 의원들 발의안과 달리 '투명성', '권리 및 구제', '벌칙', '고위험 인공지능 제공자 및 운영자의 의무' 등 포괄적 안전을 강조했다.

특히 AI 제공자의 구체적 정의를 통한 책임 부과와 더불어, 이용자의 구분 범주도 명확히 해야 한다고 봤다. AI 제품 및 서비스에 대한 직접 사용자 외에 간접적 영향을 받게 될 자들이 피해 발생 시 법적으로 구제받을 수 있는 권리도 반드시 포함되어야 한다는 입장이다.

최경진 "예측 불가능 규제, 가장 나빠…명확성, 비례적 규제 적용해야"

인공지능법학회 회장인 최경진 가천대 교수의 전제는 '미래 사회 발전을 위해서는 AI 혁신이 보장되어야 하고, 지속 가능한 혁신을 위해서는 신뢰가 뒷받침되어야 한다는 것'이다. 이를 바탕으로 신뢰받는 AI 생태계 구축을 위한 입법을 통해 AI 혁신을 지원·촉진하되, 개발부터 활용까지 전 과정에서 인간 중심 설계가 보장되어야 한다는 중립적 입장을 보였다.

특히 규율 대상은 AI 그 자체, AI 시스템, AI 모델이 구분되어야 한다고 강조했다. 이 경우 각 정의와 범주가 다소 복잡해질 수 있지만, 정의가 '인공지능 기술'로 통합적일 경우 규제 대상자의 예측 가능성과 법적 안정성이 저해될 것이란 관점이다.

최 교수는 "우리가 단지 진흥만 바라본다면 폭넓은 관점으로 AI를 정의해도 된다. 그러나 규제를 함께 고려한다면, 예측 불가능한 규제가 되는 쪽이 훨씬 나쁘다"며 "EU AI법이 비판받는 가장 큰 이유는 방대한 내용에서도 대체 누구를 대상으로 적용되는 법인지 알기 어렵다는 점"이라고 설명했다. 또한 "법 하나로 모든 걸 규정할 수 없고, 모든 걸 다 규정하면 포괄적 규제가 되어 아무것도 못할 수 있다. 글로벌 표준과 발맞추며 규제는 비례적으로 접근하여 예측 가능성과 신뢰도를 높이는 것이 중요할 것"이라고 강조했다.

과방위 "목적은 단 하나, AI로 다시 ICT 강국이 될 것인가"

모든 진술이 끝난 뒤, 과방위 의원들도 자신의 입장을 피력하거나, 날카로운 질문을 던지기도 했다. 구글 출신의 기술 전문가로 꼽히는 조국혁신당 이해민 의원은 "국제적 통용 가능성을 지닌 AI 법 마련이 우선 중요할 것"이라며 "신호등만 해도 우리만 15개의 등이 포함될 수 없는 것과 같다"고 말했다. 대상자가 명확하고 세밀한 규정안 마련에도 공감했다. 자동차를 예로 들며 "직접 운전하지 않아도 동승자, 보험업자 등 사고에 따른 이해관계자들이 각각 다르다"며 "AI로 인한 문제 발생 시 책임의무가 모두 다를 것이기에 규정도 달리해야 할 것"이라고 덧붙였다.

국가적 AI 거버넌스 구축 측면에선 방송통신위원회처럼 어느정도 독립적인 합의체가 실무 전문가 중심의 합의체로 만들어져야 세금만 축내고 AI 패권경쟁에서 뒤질 수 있는 위험에서 벗어날 수 있을 것이라 강조하기도 했다.

더불어민주당 조인철 의원은 명확한 목표가 없다면 AI 안전 연구소 등 설립은 다소 비판적이란 입장이다. 조 의원은 "AI 안전 연구소 설립 요구는 시민사회가 말하는 규제 소홀 요구에 대한 반작용 측면도 있어 보인다"며 "연구소 설립에 몇백억원 이상의 세금이 들지 모르는 측면에서 뚜렷한 역할을 먼저 정의하고, 역할 없는 과잉 투자가 아닌지 신중히 판단해야 한다"고 말했다.

국민의힘 최형두 의원은 조속한 입법 후 수정이 합리적이란 입장이다. 최 의원은 "각 토론자의 발표 내용들을 볼 때 용어 하나하나에 너무 엄밀해지면 법안을 만들 수 없다. AI 기본법은 헌법이 아닌 제정법"이라며 "문제가 발견되면 계속 보완하고 제정해 나갈 수 있을 것"이라고 말했다.

개혁신당 이준석 의원은 기존 시스템을 예시로 타협안을 제시했다. 이 의원은 "AI에 무오성(오류가 없음)을 강조하는 규제는 AI로 만들 수 있는 여러 기회의 장애요소가 될 것 같다"며 "자동차 면허도 사고가 발생할 것 알면서도 주지만, 대신 책임질 수 있도록 보험 가입을 의무로 한다. 냉정하게, 기업이 안전망을 마련한다면 그들의 자율성을 보다 존중해줄 수 있다는 입장"이라고 말했다.

한편 이날 회의를 주재한 과방위원장 더불어민주당 최민희 의원은 토론을 마무리하며 AI 기본법 토론의 목적이 명확해야 한다는 견해를 밝혔다.

최 의원은 "오늘 논의해보니 AI 기본법을 무엇이라 정의할지 한층 어려워진 점이 느껴진다"면서도 "이 논의는 국제적 경쟁력을 고려할 때 과거 한국이 ICT(정보통신기술)에 집중투자해 ICT 강국이 됐듯, 다소 늦었지만 이제 AI를 가지고 대한민국이 다시 한번 ICT 강국으로 도약할지 말지에 대한 선택을 하는 자리"라고 강조했다. 이어 "AI 기본법, 최소한의 규제도 없으면 추후 기업에게 이상한 책임을 지게 할 수도 있게 될 것"이라며 "현시점에서 우리는 모든 지혜를 짜내어 이 법을 만들어가야 한다. 시민사회에서도 걱정하는 부분은 조속히 청원해주면 함께 논의하겠다"고 덧붙였다.