[디지털데일리 김보민기자] "1년 뒤, 아니 당장 한 달 뒤 인공지능(AI)은 무슨 일까지 할 줄 알게 될까요?"

최근 기자를 만난 정보기술(IT) 업계 관계자는 이런 질문을 던졌다. 단순 글만 읽을 줄 알았던 AI가 사진, 영상을 만들고 분석까지 하는 단계로 진화한 만큼 앞으로의 변화가 무궁무진하다는 취지였다. 이 관계자는 가까운 미래에 냄새와 감정을 이해하는 AI가 나올 수 있다며 여느 때보다 기술적 골든타임이 중요해졌다고 입에 침이 마르게 강조했다.

실제 AI 기술에 따른 영향을 논할 때 이러한 낙관론은 빠지지 않고 등장한다. 진흥적 측면에서 AI가 가져올 변화와 파급력은 규모를 예측할 수 없을 만큼 거대하기 때문이다. 낙관론을 믿는 이들은 인간이 키운 AI가 우리 일상과 업무를 돕는 것을 넘어, 지구촌 문제를 해결할 만병통치약이 될 수 있다고 믿고 있다.

틀린 말은 아니다. 실제 AI 기술이 적용되는 분야는 점차 다양해지고 있다. CCTV로 위험 상황을 실시간 감지하는 것은 물론, 멸종 위기에 놓인 해양 생물을 데이터로 분석해 대응 방안을 알려주는 작업도 어렵지 않게 해내고 있다. 디지털 취약계층을 대상으로 국가 지원 혜택을 쉽게 설명해주는 역할도 AI가 수행하고 있다.

그러나 막연한 낙관론을 경계해야 한다는 목소리 또한 커지고 있다. 인간이 인공적으로 학습시킨 AI가 점차 지능적으로 진화하며 위협을 가할 수 있게 된 탓이다. 인간이 탄생시킨 기술이 화살이 돼 전 세계를 위기에 빠지게 할 수 있다는 파괴론적 관측에도 힘이 실리고 있다. AI발 사이버 위협은 이제 유행어처럼 매초 언급되기 시작했다.

이러한 파괴론적 우려는 올해 지구촌 선거 시즌이 본격화되면서 더욱 두드러지기 시작했다. 통상 선거 시즌은 사이버 공격자들이 위협을 가할 최적의 시기로 꼽히는데, 여기에 AI 기술을 활용한 공격을 가한 사례도 늘고 있다. 마이크로소프트(MS) 위협분석센터(MTAC) 보고서에 따르면 중국과 연계된 사이버 공격자들은 한국, 미국, 인도에서 열린 선거를 겨냥해 AI로 만든 허위정보를 퍼뜨릴 움직임을 보이고 있다. 올 1월 대만 총통 선거에서 이미 허위정보를 퍼뜨린 정황도 파악됐다.

방식은 다양했다. 가장 흔한 공격으로는 자국에 유리한 내용으로 AI 기반 콘텐츠를 만들고, 이를 사실인 것처럼 온라인 공간에 퍼뜨리는 방법이 있다. AI 뉴스 앵커를 출연시켜 생동감을 키우기도 했다. 조금 더 지능적인 AI를 활용한 공격자들은 개인 신원 정보를 해킹하거나 악성코드를 생성할 때 이를 활용하기도 했다. AI 공격의 범위가 그만큼 다양해지고 있다는 사실을 엿볼 수 있는 부분이다.

AI에 대한 현주소를 한 단어로 정의할 때 '혼돈(chaos)'이 가장 먼저 떠오르는 이유다. 막연한 기대와 예상 못 할 공격이 혼재하는 상황 속 단순 기술적 골든타임이 아닌 지속 가능한 대응책이 필요해진 셈이다. 그러나 한국은 물론, 지구촌 차원에서 대응 수준은 아직 무르익지 못한 상태다. 단순 보안 솔루션이나 서비스로 울타리를 강화하지 말고 범정부 차원에서 대비책을 마련할 때라는 아우성이 나오는 것과 대비되는 현주소다. 때로는 '방구석 해커'보다 방패를 들어야 하는 이들의 AI 이해력이 더욱 떨어진다는 평가도 나온다. 우리 정부 또한 허울만 좋은 보안 정책이 나올 뿐, 다른 우선순위에 밀려 AI 대응에 대한 실질적인 대책이 나오지 못하고 있다.

AI는 지금 이 글을 읽는 순간에도 진화하고 있다. 당장 내일 낙관론적인 변화가 일어날 수도, 파괴론적인 재난이 우리 삶을 뒤바꿀 수도 있다. 말만 번지르르한 대책은 절대 AI 위협에 대한 해결책이 될 수 없다. 인간이 만들어낸 기술이 지능적 화살로 돌아오지 않기 위해서는 그들보다 한발 앞서 나간 생각을 하는 것이 핵심이라는 점을 잊어서는 안 된다.