[디지털데일리 백지영기자] 인공지능(AI) 기술의 비약적인 발전이 이뤄지고 있는 가운데, 이에 대한 각종 위험과 부작용을 줄이면서도 기술의 혜택을 온전히 누릴 수 있는 'AI 기본법'이 신속히 제정돼야 한다는 목소리가 높아지고 있다.

특히 내년부터 유럽연합(EU)에서 전면 시행되는 'AI법(AI Act)'처럼 국내 AI 법안 역시 금지 혹은 고위험 등급으로 분류된 AI 시스템에 대한 의무를 어길 경우 과징금 등 엄격한 처별 규정을 마련해야 한다는 지적이 제기된다.

EU AI법의 경우 AI 활용분야를 총 4단계로 나눠 규제하는데, 이를 위반할 경우 경중에 따라 전세계 매출의 1%에서 최대 7%의 과징금을 부과한다. 다만 EU에서처럼 산업계에서의 AI 혁신을 위해 규제 샌드박스와 같은 별도의 조항을 마련해야 한다는 의견도 있다.

11일 여야 국회의원과 진보네트워크센터, 참여연대 등의 공동 주최로 열린 '국민의 안전, 인권 및 민주주의와 AI의 공정을 위한 입법 방향' 토론회에선 AI의 위험성을 식별하고 이에 대한 적절한 거버넌스(규제체계)를 만들어야 한다는데 초점이 모아졌다.

이날 발제를 맡은 오병일 진보네트워크센터 대표는 "AI 안정성에 대한 신뢰 없이는 AI 산업 발전도 불가능하다"며 "인권과 안전, 민주주의에 기반한 AI 거버넌스가 필요하며, EU와 미국의 규제사례를 참조한 국제적인 규율이 필요하다"고 말했다.

현재까지 제22대 국회에선 지난 8일 기준 여당 3건, 야당 3건 총 6건의 AI법이 발의됐으나 좀처럼 속도를 내지 못하고 있는 상황이다. 우선 국회 개원 첫날인 지난 5월31일 안철수 의원이 'AI 산업 육성 및 신뢰 확보에 관한 법률안'을 처음으로 발의했다.

이후 6월 17일에 여당 당선인 108명 전원이 'AI 발전과 신뢰 기반 조성 등에 관한 법률안'을 공동 발의했으며, 가장 최근인 지난 4일 권칠승 민주당 의원이 'AI 개발 및 이용 등에 관한 법률안'을 대표 발의한 상태다.

하지만 대부분 지난 21대 국회에서 발의됐던 법률안의 취지와 내용을 답습하면서 AI를 산업 진흥 관점에서 접근해 AI의 위험성을 간과하고 있다는 지적이다.

유승익 한동대 교수는 '22대 국회 AI법 입법방향' 발제를 통해 "현재까지 발의된 법안은 AI 산업육성과 신뢰확보 두가지 키워드로 요약되는 등 대부분이 비슷한 표현으로 구성돼 있다"며 "특히 안철수 의원을 제외하곤 발의된 법안이 정의한 AI는 지능정보화기본법의 '지능정보기술' 정의 조항 규정에 '지각', '언어의 이해' 등을 덧대는 방식으로 규정하는데 그치고 있다"고 말했다.

이에 EU AI 입법례를 참고해 다양한 수준의 자율성과 변화양성(역동성)을 포괄한 새로운 AI 시스템에 대한 정의가 필요하다는 제언이다.

이와 함께 '금지 AI 규율'의 필요성도 역설했다. EU AI법안에선 용인할 수 없는 AI시스템에 대한 개발과 활용을 금지하고 있다.

이를테면 ▲인간의 잠재의식 또는 특정집단의 취약점을 악용해 피해를 유발할 수 있는 시스템, ▲사회적 행동이나 개인의 특성에 기반해 생성·수집된 정보로 개인이나 집단의 '사회적 점수'를 도출해 불리한 대우를 유발할 수 있는 시스템, ▲프로파일링이나 성격 특성만을 토대로 개인의 범죄 가능성을 예측·평가하는 시스템, ▲직장 및 교육기관에서 개인의 감정 추론을 위해 사용하는 시스템, ▲공공장소에서의 실시간 원격 생체인식시스템(납치·인신매매·성적착취피해자및실종자수색, 테러위협방지, 범죄자 및 범죄용의자 신원 및 위치파악을 위해 예외적으로 허용) 등이 이에 해당한다.

유 교수는 "현재 발의된 AI법안들은 금지AI를 규율하는 규정을 찾아볼 수 없다"며 "우리 사회에서 어떤 AI시스템이 용인될 수 없는지에 대한 숙의와 합의가 필요하다"고 강조했다. 이에 우리나라 역시 금지 AI나 고위험 AI 등을 정의하고 차등화된 의무를 부과하는 것은 물론 실효성 확보를 위해 다양한 수준의 제재규정을 포함해야 한다고 말했다.

이어 "AI 산업 자체가 국내에만 적용되는게 아닌 만큼, AI 법제와 규범 역시 글로벌 표준에 맞는 상호운용성이 고려돼야 하다"며 "토종 AI산업의 육성도 중요하지만 국내 AI산업이 갈라파고스화 되지 않기 위해선 AI 규범도 세계수준으로 돼야 한다"고 덧붙였다.

한편으론 AI 기술발전 속도를 법으로 규제가 힘들 것이란 회의론도 제기됐다. 더불어민주당 AI미래전략특별위원장을 맡고 있는 차지호 의원은 "과연 AI 기술이 나아가는 속도를 법적인 매커니즘이 따라잡을 수 있을지 의문"이라며 "결국 AI 미래사회에 다가올 사회적 영향을 고려해 공공성을 강화하는 방향으로 촉진하는 것이 현실적인 고려이며 AI 공공성은 법안 등 요인이 없으면 만들어지기 어렵다"고 제언했다.

반면 업계에선 AI 역기능 방지를 위한 규율의 필요성은 공감하면서도 최근 AI 경쟁이 국가 간 대항전 성격을 띠기 시작한 만큼 규제보다는 진흥에 초점을 맞춰달라는 입장이다.

김영규 한국인터넷기업협회 실장은 "주요국은 자국 기업에 막대한 투자를 통해 AI 생태계 강화를 지원하고 있다"며 "우리나라의 경우 전세계 세 번째로 초거대 AI를 상용화하고, 주요 ICT 기업은 AI를 미래 수출 먹거리로 추진하는 등 수출 경제에도 기여하고 있다"고 말했다.

하지만 최근 발의된 AI법안을 보면, 산업 발전이나 육성보다는 규제로 작용해 AI 산업 혁신을 저해할 수 있다는 우려를 제기했다. 예컨대 법안에서 규정하는 AI 정의는 '인간의 지적능력' 등 추상적인 개념을 기반으로 하고 있어 AI 의미가 불명확하고 적용대상이 모호해질 우려가 있다는 것이다.

또, 김 실장은 "AI '연구'와 '개발'을 구분하고 있지 않아, AI를 연구목적으로 개발하는 사업자도 규제대상으로 포섭하고 있어 연구개발이나 산업발전 저해할 가능성이 있다"고 지적했다. 특히 AI 혁신에 큰 영향을 미치는 오픈소스 소프트웨어 또는 해당 연구개발에 불필요한 규제가 이뤄질 경우, 한국의 AI산업만 뒤처지게 될 결과가 초래될 수 있다고도 내다봤다.

이밖에 김성원 의원의 법안을 제외하곤 '우선허용·사전규제'를 규정하지 않는데, AI 기술에 대해서 '행정규제기본법'에 따라 산업 육성과 진흥을 도모해야 한다고 지적했다. 그는 "사전에 모든 것을 규정하는 방식보단 다양한 실험과 시도를 통해 기술을 발전시키며 이와 관련해 발생하는 문제점에 대해선 적절한 사후조처를 하는게 현실적"이라며 EU처럼 규제 샌드박스를 운영할 것을 제안했다.

정부 측은 AI 안정성 확보를 위한 규정을 도입하되, 단계적 보완 입법을 통해 글로벌 규범에 따르는 것이 필요하다는 점을 재차 강조했다.

남철기 과학기술정보통신부 AI기반정책과장은 "매출이나 기업수 측면에서 보면 한국을 AI 선도국으로 보기 어렵다"면서 "생성형 AI 등장 이후 각 국이 AI 위험성 예방을 위한 규범을 만드는 상황에서 우리나라 역시 AI 발전과 신회 기반 조성을 균형있게 고려한 제도적 기반 마련이 필요하다"고 말했다.

여당에서 당론으로 발의한 정점식 의원안의 경우, AI 산업 육성 지원을 위한 AI 기본계획 수립과 국가AI위원회 신설, R&D 및 표준화 등에 대한 근거 마련과 함께 고위험영역 및 생성형 AI 정의, 사업자에 대한 의무 부과와 AI안전연구소 운영 근거 신설이 포함됐다는 설명이다.

또, 21대 국회 과방위 대안과 비교하면 AI 안정성 확보를 위해 '우선허용·사후규제 원칙'이 삭제되고, 생성형 AI 고지 및 표시가 반영되고, 국가AI위원회 지위가 격상됐다고 설명했다.

특히 미국이나 EU의 경우, 고도의 성능을 가진 생성형 AI에 대한 규정도 강화하고 있다. EU AI법안에선 10의 25승 플롭스 이상으로 학습된 모델을 규제 대상으로 삼고 있다.

남 과장은 "다만 EU AI 법에서처럼 사업자 의무 위반에 대한 제재 규정 도입은 AI 산업 수준이나 경쟁력을 판단해 사회적 합의가 필요한 사항"이라며 "먼저 법의 뼈대를 갖추고 난 이후 부작용 등 우려사항에 대해선 단계적인 보완 입법을 하는 것이 현실적"이라고 제언했다.