[디지털데일리 이종현기자] 유럽연합(EU)이 세계 첫 인공지능(AI) 기술규제 법안인 ‘AI법(AI Act)’을 통과시켰다. AI에 위험등급을 부여하고 고위험 등급의 경우 엄격하게 관리하겠다는 것이 골자다. 법 위반 기업에게는 최대 전 세계 매출의 7%에 해당하는 과징금이 부여될 수 있다. 수십조원의 천문학적인 과징금 부과도 가능하다.

해당 법안은 지난 13일(현지시각) 프랑스에서 열린 유럽의회에서 찬성 523표, 반대 46표, 기권 49표로 승인됐다. 2021년부터 준비돼 온 법안으로, ‘챗GPT’의 등장 이후 생성형 AI가 급부상하면서 탄력을 받았다.

유렵의회 의장인 로베르타 메솔라(Roberta Metsola)는 “이 법안은 기본권을 보호하는 동시에 혁신을 가능하게 할 선구적인 법안”이라고 소개했다. EU의 유럽 내부 시장 위원인 티에리 브레통(Thierry Breton)은 자신의 X(구 트위터)에서 “유럽은 이제 AI의 글로벌 표준 설정자”라고 밝혔다.

EU AI법의 핵심 내용은 AI를 활용하는 과정에서 발생할 수 있는 위험을 4개 단계로 범주화하는 것을 골자로 한다. 허용할 수 없는 위험, 고위험, 저위험, 최소한의 위험 등이다.

금지되는 것은 사람의 의사결정 능력을 손상시키거나 취약성을 활용하는 것부터 특정 사람 또는 단체에 불공정한 처우, 사회적 점수 평가 또는 분류 목적을 위한 AI다. 또 특정 범죄를 수사하는 등의 용도가 아니면 실시간으로 원격 생체정보를 탐지하는 등의 기술도 사용할 수 없다. 고위험 AI의 경우 사람의 건강, 안전 또는 기본권을 해칠 중대한 위험(Significant Risk)을 초래하는 것을 기준으로 삼았다.

EU AI법은 고위험 AI를 개발하는 기업은 시장에 출시하기 전 적합성 평가 절차를 거치도록 규정했다. 한 번 평가를 받았다고 하더라도 시스템이 실질적으로 수정될 경우 새로이 적합성 평가를 받도록 했는데, 이로 인해 속도전 양상을 보이던 AI 서비스 개발-출시에 제동이 걸릴 것이라는 평가가 나온다.

또 EU는 AI 법의 주요 내용으로 ‘인간 감독’도 강조했다. AI가 설계될 때부터 인간에 의해 통제 또는 간섭될 수 있도록 해야 한다는 내용이 포함됐는데, AI가 오작동할 경우 이를 제어할 수 있도록 해야 한다는 것이다. 다만 인간 감독에 대한 명확한 지침은 없는 상태다.

가장 눈길을 끄는 것은 AI 학습을 위해 사용된 데이터를 투명하게 공개해야 한다는 내용이다. 이는 세계 각국에서 진행되고 있는 AI 기업과 데이터 저작권자의 갈등과도 직결되는 문제다. 데이터 저작권은 AI 기업들로서는 해명할 수 없는 약점이다. 오픈AI를 비롯해 구글, 메타 등 모두 저작권 분쟁을 겪고 있다. ‘하이퍼클로바X’를 개발한 네이버 역시 마찬가지다.

법 위반시 기업의 경우 전 세계 연간 총 매출액의 최대 7%를 부과한다. 만약 구글과 같은 빅테크 기업이 법을 위반할 경우 최대 수십조원의 과징금이 부과될 수 있다.

EU AI법 제정은 국내 기업들에게도 직‧간접적으로 영향을 미칠 것으로 예상된다. 글로벌 제품‧서비스를 개발해 EU에 수출하는 기업은 직접적인 규제의 대상이 된다. 이번 EU AI법 통과를 계기로 세계 각국이 AI 규제법 통과에 속도를 낼 것이라는 전망도 나오는 만큼 EU 수출 계획이 없더라도 AI 관련 제품‧서비스를 개발하는 기업도 영향을 받을 수밖에 없다.

생성형 AI 기술을 선도하고 있는 미국의 경우 작년 10월 일부 규제 성격의 내용을 담은 AI 관련 행정명령을 발표했다. 국가 안보, 경제, 공공 안전 등에 영향을 미치는 AI 모델의 경우 훈련단계부터 정부에 고지하고 안전성 평가를 거치도록 했다.

한편 국내에서도 ‘AI 기본법’이 발의돼 있는 상태다. 주무부처인 과학기술정보통신부(이하 과기정통부)는 오는 5월까지인 제21대 국회 임기 내 통과를 목표로 법안의 필요성을 강조하고 있다. 다만 4월10일 제22대 국회의원 선거를 앞두고 상임위원회인 국회 과학기술정보방송통신위원회의 활동이 멈춰져 통과를 낙관할 수는 없는 상태다.