[디지털데일리 김보민 기자] 유럽연합(EU)이 인공지능(AI) 기술에 대한 규제 법안을 마련했다. 세계 첫 AI 규제안인 만큼, 주요국들 또한 자국에 특화된 법을 구체화할 수 있다는 관측이 나온다.

이번에 EU가 주목한 키워드는 '신뢰할 수 있는 AI'다. AI가 촉발시킬 수 있는 문제를 사전에 차단하고 사후에 벌할 수 있는 장치를 마련하겠다는 것이다. 기술 개발에만 몰두했던 과거와 달리, 이에 따른 부정적인 나비효과를 통제하겠다는 취지로 읽힌다.

◆ "무분별한 사용, 무분별한 개발 그만"

11일 관련 업계에 따르면 유럽연합 집행위원회, 유럽의회, EU 27개 회원국 대표는 'AI 법'에 잠정 합의한 상태다. 36시간이 넘는 회의 끝에 지난 8일(현지시간) 나온 결과다.

최종 합의문은 공개되지 않았다. 유럽의회는 내년 초 법안에 대한 투표를 진행할 예정이다. 법안 초안은 유럽의회와 회원국들의 승인을 거치게 되는데, 이후 실제 발효까지 약 2년의 시간이 추가로 소요될 전망이다. 2025년이 지나야 최종 효력이 발생할 것이라는 관측이 나오는 이유다.

EU는 이번 법안을 통해 사회적, 윤리적 보호 장치를 마련할 예정이다. 유럽의회가 공식 홈페이지를 통해 공개한 내용에 따르면 AI 법은 크게 ▲민주주의에 잠재적 위협을 미칠 수 있는 AI 제한 ▲범용AI 개발 기업의 학습 과정 보고 의무화 등 두 가지에 집중했다.

먼저 법안은 AI가 정치·종교·인종의 특성으로 사람을 분류하지 않고, 안면인식 데이터베이스(DB)를 구축하기 위해 인터넷과 CCTV 영상으로부터 생체 정보를 수집하는 것을 금하는 내용을 담았다. 직장이나 교육 기관에서 감정 인식을 하거나, 개인의 특성 및 행동과 관련된 데이터로 점수를 매기는 '소셜 스코어링(Social Scoring)'도 허용하지 않기로 했다. 다만 테러 위협을 예방하고 범죄 용의자를 추적하기 위한 실시간 안면 인식은 일부 허용한다.

범용 AI를 개발하는 기업의 경우 모델의 세부적인 학습 과정을 보고해야 한다. 모델을 어떻게 학습했고, 어떤 데이터가 활용되었지는 명시하는 방식이다. 유럽의회는 "(AI 모델이) 특정 기준을 충족하면 모델 평가를 수행하고, 시스템 위험 요소를 평가하고, 사이버 보안을 보장하고 에너지 효율성에 대해서도 보고해야 한다"라고 설명했다.

규칙을 준수하지 않을 경우에는 3500만유로(현 기준 약 497억원), 또는 전 세계 매출의 7%에 해당하는 벌금을 부과 받게 된다. 이는 기업 및 매출 규모 등에 따라 달라질 전망이다.

이와 동시에 혁신 및 중소기업에 대한 지원도 가속화한다. 국가 당국은 새 제품이나 서비스가 출시될 때 일정 기간 동안 기존 규제를 유예해 주는 '규제 샌드박스' 등을 운영할 예정이다.

다만 해당 법안이 AI 생태계에 있어 부작용이 발생할 안전장치가 될 것이라는 점을 명시했다. 유럽의회 드라고스 투도라체 공동 조사관(루마니아)은 "AI 법은 AI 모델에 대한 규칙을 설정해 해당 모델이 연방에 위험을 초래하지 않도록 보장하고 공공당국의 기술 남용으로부터 시민과 민주주의를 위한 보호장치를 제공하게 될 것"이라며 "우리의 디지털 미래에 큰 영향을 미칠 또 다른 법안"이라고 강조했다.

◆ "유럽 시장, 만만하지 않지?" EU의 선전포고

앞서 EU는 디지털서비스법과 디지털시장법 등 핵심적인 법안을 통해 글로벌 빅테크 기업들의 관행에 영향을 미쳐왔다. 이번 AI 법 또한 이들 기업의 유럽향 사업 전략을 관리하겠다는 취지로 읽히는 이유다.

단순 빅테크 기업뿐만 아니라 AI 기술을 활용하는 업계 전반에 영향을 미칠 가능성이 있다는 관측도 나온다. 모델 학습 방법 등 일부 기밀이 노출될 가능성이 있기 때문이다. 워싱턴포스트는 "EU 기술법은 실리콘밸리 기업에 광범위한 영향을 끼쳐왔다"라며 "마이크로소프트(MS)와 같은 일부 기업은 국경 너머에서도 사용자 데이터를 처리하는 방법을 점검받았고, 메타·구글 등 기업들 또한 법에 따라 벌금을 부과 받기도 했다"라고 말했다.

일각에서는 주요 국가들 또한 기술 규제에 신호탄을 쏘아 올리는 것이 아니냐는 관측도 나온다. 현재 EU와 같이 구체적인 규제 조항을 발표한 국가는 없다. 미국의 경우 AI에 대한 초당적 법안을 다루는 등 아직 규제 초기 단계에 있는 상황이다. 영국과 중국은 자체 가이드라인을 마련했고, 한국에서도 소비자 보호 제도가 필요하다는 주장이 나오고 있다.

뉴욕타임스는 "AI 법은 기술의 자동화, 거짓 정보 확산, 국가 안보 위협 등의 위험으로부터 자국을 보호하려는 국가를 위한 새로운 벤치마크를 설정했다"라고 평가했다. 더버지 또한 "이번 포괄적인 규칙은 다른 국가의 벤치마크 역할을 할 수 있다"라고 내다봤다.

AI 법이 기술 개발에 제한을 둘 수 있다는 우려 섞인 시선도 존재한다. AI 시장은 "어제와 오늘이 다르다"라는 말이 나올 정도로 변화가 잦은데, 포괄적인 규제로만 통제하기에 어려움이 있다는 관측이다. 개발자나 엔지니어 대신 변호사를 고용해야 하냐는 볼멘소리도 나오고 있다.

비정부단체 유럽디지털권리(EDR)의 엘라 자쿠보스카 수석 정책고문은 워싱턴포스트에 "결국 세부 사항이 관건이 될 것"이라고 말했다. 국내에서도 최종안이 구체화될 때까지 상황을 지켜봐야 한다는 목소리가 나온다.