[디지털데일리 이종현기자] ‘챗GPT’의 등장 이후 생성형 인공지능(AI)이 정보기술(IT) 업계의 메가 트렌드로 자리 잡았다. 일반 사용자를 위한 챗봇 서비스에 국한되지 않고 여러 산업계에서 생성형 AI 도입이 검토되는 중인데, 이에 따른 우려의 목소리도 커지고 있다. 생성형 AI가 범죄자들에게 악용될 수 있다는 것이 대표적이다.

13일 과학기술정보통신부(이하 과기정통부) 박윤규 제2차관은 확산되는 생성형 AI로 어떤 보안 위협이 등장할 것인지, 어떻게 대응해야 할 것인지에 대해 논의하는 사이버보안 현장 토론회를 개최했다.

토론회는 국내 최초로 챗GPT를 이용한 보안 서비스를 발표한 이글루코퍼레이션(이하 이글루) 사옥에서 진행됐다. 이글루는 지난 3월 설명 가능한 AI(eXplainable AI, 이하 XAI) 서비스, ‘이글루 XAI(가칭)’을 발표한 바 있다.

박 제2차관은 “챗GPT와 같은 AI 기술의 발전은 경제, 사회 전반의 파괴적 혁신이라는 기대와 함께 기술이 내포하고 있는 한계와 잠재적 위험 요인이 공존하고 있다고 보는 것이 냉정한 현실”이라고 진단했다.

이어서 “과거에도 인터넷이나 스마트폰이 등장할 때 신기술의 부작용을 우려한 바 있지만 올바르게 기술을 적극 활용함으로써 새로운 경제적 기회를 창출하고 사회적 발전을 이뤄낸 경험도 있다. 따라서 우리는 생성형 AI를 적극적으로 활용해서 경제, 사회와 기술 발전을 촉진할 수 있도록 하는 한편 생성형 AI의 잠재적인 보안 위협에 선제적으로 대응할 필요가 있다”고 토론 개최 배경을 전했다.

실제 글로벌 사이버보안 기업 체크포인트는 지난 1월 다크웹 등에서 챗GPT를 사용해 새로운 악성코드 등을 제작할 수 있는 사이버공격 도구 생성 시도를 발견했다고 보고한 바 있다. 이에 미국, 유럽연합(EU) 등 주요 국가에서는 AI 기술에 대한 위험성을 우려하며 안전한 사용과 신뢰 환경 구축을 위한 규제 방안 논의에 착수하고 있다.

이날 토론회는 3명의 발표자가 각각의 주제로 발표를 진행 한 뒤 토론회에 참석한 관계자들이 자유토론을 진행하는 방식으로 진행됐다. 발표자는 고려대학교 정보보호대학원 이상근 교수, 이글루 정일옥 기술위원, 한국인터넷진흥원(KISA) 김정희 미래정책연구실장 등이다.

이상근 교수는 ‘챗GPT 기술의 진화, 그리고 사이버보안’을 주제로 발표한다. 챗GPT 등 생성형 AI 기술의 발전 동향과 한계, 보안 위협을 분석하고 생성형 AI 기술 발전에 대비한 심층 연구 필요성을 제언할 예정이다.

정일옥 이글루 기술위원은 ‘챗GPT 등 AI가 보안산업에 미치는 영향’에 대해 산업계 현장의 목소리를 전달한다. 국내외 AI를 활용한 사이버보안 산업 동향을 공유하고 AI를 접목한 사이버보안 위협·탐지 기술이 어떻게 성장할지에 대해 발표한다. 또 자체 개발한 AI 모델과 챗GPT를 연계해 사이버위협 정보를 판단하는 보안 솔루션 시연했다.

김정희 KISA 미래정책연구실장의 발표 주제는 ‘챗GPT의 보안 위협 동향분석 및 대응방향’이다. 그는 디지털 패러다임 변화에 따라 보안 위협 대응 현황이 어떻게 변하고 있는지, 생성형 AI를 통한 보안위협 현황과 사례분석, 그리고 생성형 AI의 보안위협 예방을 위한 대응방안 등에 대한 인사이트를 공유했다.

박윤규 제2차관은 “챗GPT 등 생성형 AI 기술은 앞으로 더 발전해 우리 일상에 폭넓게, 보편적으로 사용되리라 예상되는 만큼 보안 우려에 적극적으로 대응해 나갈 필요가 있다. 정부는 생성형 AI 서비스를 국민이 안심하고 이용하도록 안전한 사이버보안 환경을 조성하고 갈수록 지능화·고도화하는 사이버위협에 대한 대응 역량을 갖추기 위해 최선을 다하겠다”고 말했다.