[디지털데일리 왕진화 기자] 인공지능(AI) 규제를 위한 법제화 움직임이 전 세계에서 감지되고 있다. 특히 유럽에서 AI 창작물로 인해 피해를 보는 소비자를 보호하기 위한 AI 규제법 도입에 속도를 내는 모양새다.

AI는 이미지나 음악, 웹툰, 게임 캐릭터까지 다양한 콘텐츠를 만드는 데 쓰인다. 이에 따라 국내에서도 AI 규제가 필요하다는 의견이 제기되고 있는 실정이다. AI 개발에 속도를 내왔던 산업계 전반은 물론 게임업계가 이 같은 해외 사례를 예의 주시하고 있다.

◆해외 AI 사업자 규제 속도…범죄 예방 차원=유럽연합(EU)이 세계 최초로 AI 규제법을 도입하기 위한 작업에 착수했다. 미국 CNBC 등 다수 외신에 따르면, EU는 지난 14일(현지시각) 회의를 열어 EU 전역에서 AI를 규제하는 법안 협상안을 표결했다.

이에 따라 유럽의회는 EU집행위원회 및 27개국을 대표하는 이사회와 3자 협상에 들어간다. 협상안은 생성형 AI 개발업체의 콘텐츠 내 데이터 출처 표기 의무화가 골자다. 생성형 AI가 만드는 콘텐츠에는 ‘AI에 의해 생성됐다’고 표기하는 것을 비롯, ▲AI 훈련에 어떤 정보가 활용됐는지 ▲AI가 불법 콘텐츠를 만들지 않도록 막는 별도 시스템 개발 등을 법안에 담았다.

여기에, ▲공공장소에서 안면인식 등 원격 생체 인식 금지 ▲성별·인종·종교 등 민감 정보 사용한 생체 인식 금지 ▲프로파일링이나 위치, 과거 범죄 행동을 기반으로 하는 경찰의 예방 치안 활동 금지 등 생체 인식과 관련한 활동을 모두 금지하고 있다.

안면인식 등을 전면 금지하는 방안에 대해선 집행위 및 이사회와 EU 의견이 갈리고 있다. 다만 원활하게 협상이 진행된다고 하더라도, 실제 AI에 대한 규제는 유예 기간 때문에 오는 2026년이 돼야 가능할 것이란 전망이 나온다.

같은 날 미국 의회에서도 생성형 AI가 만든 콘텐츠에 대해 사업자가 법적 책임을 지도록 하는 법안이 상원에서 발의됐다. 주요 외신은 미국 상원 법사위 소속 리처드 블루먼솔 민주당 의원과 조시 홀리 공화당 의원이 이런 내용을 골자로 한 법안을 발의했다고 보도했다. AI가 해를 끼쳐 소비자가 손해를 입었을 경우 소송 기반이 될 초당적인 법안이라는 설명이다.

이 밖에 중국, 일본 등 여러 국가에서도 AI로 인한 부작용 억제 방안 논의가 진행되고 있다. 우선 해외 AI 업체들은 데이터에 워터마크를 도입하는 식의 자율규제로도 충분하다는 입장이다.

◆국회도 ‘AI 표기 의무화법’ 발의…의견 각양각색=국내에서도 AI 역기능을 방지하기 위해 안전장치를 마련해야 한다는 목소리가 높아지고 있다. 이에 국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)이 ‘AI 표기 의무화법(콘텐츠산업 진흥법 일부개정법률안)’을 발의한 상태다.

콘텐츠제작자는 대통령령으로 정하는 AI 기술을 이용해 콘텐츠를 제작한 경우, 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표시하도록 해야 한다. 이로써 이용자 혼선을 방지하고 인공지능 콘텐츠의 신뢰성과 책임성을 강화한다는 게 주요 골자다.

이 법은 게임과도 밀접한 관련이 있다. AI 캐릭터, AI 음악, AI 번역, AI 디지털 휴먼은 물론 논플레이어 캐릭터(NPC) 도입까지 게임에서의 AI 쓰임새가 가장 넓기 때문이다. 엔씨소프트, 크래프톤 등은 AI 연구개발(R&D)도 활발히 진행 중이다. 이 의원은 이 법을 통해 사용자들이 AI 진위 여부를 알 수 있도록 해, 허위 정보로 인한 사회적 혼란을 방지하겠다는 목표다.

다만 표기를 어디에 어떤 식으로 넣어야 한다는 구체적인 방법도 아직 해당 법안에선 명시돼 있지 않다. 캐릭터 머리 위 AI를 표시하거나, 게임 접속 화면에서 AI 출처를 표기해줘야 할 수도 있는 문제다. 법안은 발의 단계일 뿐이지만, 해외에서 법제화에 속도를 내는 만큼 한국은 물론 산업계에서도 점차적으로 관련 논의가 늘어날 것으로 보인다.

게임업계 관계자는 “AI가 만든 창작물에 표기를 하는 것은 (업계에 있어) 실보단 득이 더 클 것 같다”며 “개인적으로도 최근 웹툰이나 게임 공모전에서 AI 활용 창작물을 보면 심리적인 저항감이 컸다”고 말했다.

이어 “보통 게임업계에서 AI를 활용할 때 가장 쉽게 쓸 수 있는 부분이 아트”라며 “예를 들어 A라는 게임 캐릭터를 제작할 때 ‘동양 느낌의 여전사 레퍼런스 100장 만들어줘’라고 생성형 AI에 입력하면 자료를 만들어주는 식인데, 이렇게 되면 저작권 범위가 모호해진다”고 덧붙였다.

이용자 간 대전(PvP) 등 주요 게임 콘텐츠 밸런스를 맞추기 위해 AI 캐릭터가 활용될 경우에도 일일이 표기를 해야 한다면 우려되는 부분은 없을까. 이 관계자는 “확실히 플레이 자체에 맥이 빠지는 부분은 있겠지만, 아무래도 게임사는 사람인지 AI인지 모를 수준의 상호작용이 가능한 NPC를 만들어 게임에 적용하는 것을 현재 우선으로 두고 있다”고 답했다.

김정태 동양대 게임학부 교수는 “게임 내 실제 사람이나 플레이어처럼 액션을 취하는 NPC에 대한 AI 표기는 해야 되는 게 맞다고 보는데, 이는 나날이 발전하는 NPC를 이용해 아이템 소액 사기 등이 빈번하게 나타날 수 있기 때문”이라며 “다만 이런 규제 논의나 법안 발의는 총선이 약 1년도 채 남지 않았기 때문에 21대 국회에서 통과될 가능성이 별로 없을 것으로 보인다”고 말했다.

이어 “이런 점을 고려했을 때 AI 규제는 조금 서둘러서 속도를 내야 한다”며 “학계나 업계는 자칫 ‘타다금지법’에 타다가 제대로 꽃도 못 펴보고 시들어버린 것처럼 AI 규제 자체에 대한 우려 목소리를 내고 있지만, AI 발전 속도와 파급 효과가 상당히 빠른 만큼 시행령이나 규제 샌드박스 제도를 고민해봐야 할 때”라고 덧붙였다.