이에 정부는 AI 오작동을 방지하고 사이버보안을 강화할 수 있는 중장기 대책을 마련했다. 정부는 지난 27일 열린 ‘제8차 정보통신전략위원회’를 통해 범정부 ‘제4차 산업혁명에 대응한 지능정보사회 중장기 종합대책(이하 종합대책)’을 확정했다. 종합대책에는 보안을 비롯해 개인정보와 관련된 사항도 다수 포함됐다.

◆‘AI+보안’ 사이버위협 대응=우선, 정부는 강화된 사이버 위협에 대응한 지능형 자율 방어체계를 실현한다. 이와 관련 사이버보안 빅데이터센터 구축을 내년부터 진행한다. CCTV, 자동차, 로봇 등 AI 기반 제품 및 비정형 데이터까지 사이버 위협정보 수집 대상도 확대된다.

김지원 미래부 사무관은 “사이버보안 빅데이터센터 구축은 현재 운영하는 사이버위협정보 수집 시스템을 내년부터 업그레이드하겠다는 것”이라며 “이기종, 비정형 데이터 등의 정보를 포함시킬 수 있도록 할 것”이라고 말했다.

2018년부터는 AI 기반 사이버 면역시스템을 개발한다. 이는 평상시 다양한 악성코드 및 취약점 정보를 AI가 수집·분석해 공격 상황에 대비하기 위해서다. 2020년부터는 공격 발생 때 AI 가 스스로 핵심 데이터를 숨기고 암호화하며 전송경로를 변경 시킨다. 방어력을 높이는 자율 방어체계를 탑재한 것이다.

지능정보사회에서는 개인용 AI 기기가 활성화될 전망이다. 이에 따라 이러한 기기 및 서비스의 보안 취약점을 자동 관리하는 개인 맞춤형 지능보안시스템도 2025년까지 개발키로 했다.

최근 사물인터넷(IoT)을 활용한 디도스(DDoS) 등 사이버공격이 가시화됨에 따라 기기 내장이 가능한 보안칩셋 개발에 대한 요구도 커지고 있다. 이러한 보안칩셋을 이용환경 특성에 따라 확대 개발하고, 소형 IoT 기기 등에 탑재시킬 것으로 보인다.

인간과 사물을 포함한 지능형 통합인증체계도 마련된다. 인간 위주의 전자인증 대상을 다양한 AI 기기로 확대하기 위해 경량화된 사물인증기술이 2020년까지 개발된다. 양자암호 기반의 전자인증 관련 기술 개발을 지원하고, 사물기기 인증기술 지원센터 설치를 검토한다.

2020년부터는 인공지능이 스스로 한 번에 인증하는 지능형 자동인증기술, 인증 관련 사고 예방을 위한 지능형 이상인증 방지 시스템, 이상징후 발견 때 대응시스템 개발 및 실시간 연계 체계 구축에 돌입한다.

정부는 자동차 부품, 의료기기 등 각 분야별로 구축된 안전성 인증체계에 지능정보 소프트웨어(SW) 안전성 심사를 추가하는 방안을 연구할 예정이다. 또, AI 보안인력 양성 및 글로벌 공조체계도 강화키로 했다.

◆신뢰 네트워크 위해 양자암호통신 단계 도입=네트워크에도 보안을 내재화시킨다. 정부는 네트워크 품질과 안전성 확보에 정책역량을 집중, 해킹을 원천 차단할 수 있는 양자암호통신을 단계 도입키로 결정했다.

이와 관련 정부는 2020년부터 2030년까지 이어지는 3단계 계획을 세웠다. 우선 2020년에는 보안이 절대적으로 필요한 국가 핵심시설, 데이터 센터 등의 전용회선 구간에 대해 양자 보안망을 시범 적용한다.

2025년에는 보안이 중요한 시설·장비에 양자보안망을 확대 적용한다. 행정망, 국방망, 클라우드, 금융망, 스마트 공장, 의료망 등도 포함된다. 2030년에는 양자인터넷 핵심기술을 개발하고 인프라를 구축한다.

이와 관련 AI 기반으로 네트워크에서 암호화, 침입탐지 등이 포함된 고신뢰제어 네트워크 기술을 개발·실용화하고 2025년부터 재난망에 우선 적용키로 했다. 2030년에는 AI 기반 자율 네트워킹을 구현한다.

◆개인정보 비식별 통해 데이터 활용 촉진=이와 함께 정부는 개인정보를 안전하게 비식별화해 일반정보처럼 유통되고 타 정보와 결합돼 부가가치가 제고될 수 있도록 지원하겠다고 밝혔다.

누군지 알 수 없도록 개인정보 비식별과정을 거친 후 빅데이터로 쓰일 수 있도록 하겠다는 것이다. 이에 정부는 전문기관을 지정해 비식별화를 공식 지원하고, 데이터 보유 기업들이 데이터 결합을 자유롭게 시험할 수 있는 프리존을 운영한다.

김 사무관은 “개인정보를 비식별화하면 개인정보 침해 위험은 줄어든다”며 “프리존 체계에서 안전하게 비식별화 상태에서 데이터를 결합하고, 결합된 정보가 아닌 통계 후 분석된 정보만 제공하는 것”이라고 말했다.

예를 들어, 통신사 휴대폰 이용정보와 신용카드 이용정보가 있다. 각기 다른 정보를 결합했을 때 비즈니스 등에 의미 있는 정보가 추출될 수 있다. 하지만 개인정보가 포함된 상태로 결합하는 것은 개인정보 침해다. 데이터 사용량이 많은 사용자의 카드 사용 패턴 등 통계적 결과만 추출될 수 있도록 지원하고, 이를 부가가치 창출에 활용 가능토록 하겠다는 것이다.

아울러, 정부는 개인 프라이버시를 엄격히 보호하되 개인이 동의할 경우 개인별 맞춤형 서비스 개발 제공에 활용할 수 있도록 지원키로 했다. 특정 기업이 보유한 개인정보를 해당 개인의 동의하에 다른 기업에게 제공해 다양한 서비스 개발에 활용되도록 지원하는 ‘K-마이데이터(K-MyData) 제도’를 도입한다. 참여 기업은 2020년 10개, 2030년 100개로 예상된다.

정부는 활용도와 국민 체감효과가 높은 통신, 금융, 의료, 에너지 분야부터 추진키로 했다. 금융회사로부터 제공받은 개인 금융거래 정보를 분석, 최적 금융상품을 추천하는 형태가 될 수도 있다.

현재도 기업이 ‘제3자에 개인정보 제공’ 등을 위해 고객 동의를 받고 있다. 이것과 다른 점은 주체의 차이다. 현재는 개인정보를 수집하는 기업 입장에서 정하는 내용이지만, 앞으로는 정부가 정한 제도 내에서 진행돼야 한다.

김 사무관은 “기업들이 자발적으로 참여한다면 당장 법개정을 할 필요는 없겠지만, 강제성을 부여하기 위해서는 법개정을 검토해야 한다”며 “영국에서도 K-마이데이터와 같은 제도를 사용하고 있고, 이를 벤치마킹했다”고 설명했다.

<최민지 기자>cmj@ddaily.co.kr