인터넷 인프라가 민간영역뿐 아니라 공공‧기관 등 국민의 모든 삶 곳곳에 스며든 가운데, 사이버 경계를 지키는 ‘보안’ 중요성은 나날이 증가하고 있습니다. 최근에는 인공지능(AI)‧클라우드 등 차세대 기술 발전과 함께, 사이버 위협 또한 고도화되고 있습니다. 이에 따라 IT보안 정책과 보안 책임자 역할이 어느 때부터 중요해지고 있습니다. 이에 <디지털데일리>는 빠르게 변화하는 기술 트렌드 속에서 지능화된 공격자로부터 각 기관과 기업의 안전을 도모하는 최고보안책임자들을 조명하고자 합니다. IT 최전방에 선 보안 리더들의 현장 목소리, 지금부터 생생하게 전달하겠습니다. <편집자 주>

[디지털데일리 최민지 기자] 네이버 초거대언어모델(LLM) 하이퍼클로바X가 적용된 대화형 인공지능(AI) ‘클로바X’는 첫 기획부터 출시 후 현재까지 다양한 유관부서들의 협업 아래 운영되고 있다.

특히, 네이버 이진규 최고정보보호책임자(CISO)는 숨은 주역 중 한 명으로 클로바X의 처음부터 끝까지 관여했다. 이는 네이버가 기업 보안정책을 어떻게 운용하고 있는지 보여주는 대표 사례다.

이와 관련 네이버 이진규 CISO는 <디지털데일리>와의 보안리더스 인터뷰를 통해 “클로바X는 네이버가 선보인 첫 LLM 서비스이기에, 제가 처음부터 끝까지 전체적으로 검토했다”며 “클로바X‧큐:(Cue:) 등 최근 네이버는 많은 AI 서비스를 외부에 출시했는데, 이용자에게 선보이기 전 가장 오랜 시간 검토한 과정 중 하나가 정보보호 및 개인정보보호”라고 밝혔다.

◆100% 안전한 AI 서비스는 없다…네이버는 더 노력할 뿐

이 CISO에 따르면 네이버는 AI 서비스 보안성뿐 아니라 기존 법‧제도와 부합한지, 윤리적인 문제는 없는지에 대해 거듭 고민했다. 실제, 네이버 AI 윤리준칙 중 하나는 ‘프라이버시 보호와 정보보안’이다.

이 CISO는 “AI 서비스는 처음 접하는 서비스인 만큼, 기존 법체계와 사회적인 제도와 완전히 일치하는 방식으로 구현할 수 있을까에 대한 고민들이 있었다”며 “(아직까지) 전세계 어떤 AI 서비스도 무조건 믿고 사용할 수 있다고 100% 안전성을 보장하지 못한다”고 설명했다.

이에 네이버는 개인정보보호위원회에서 만든 인공지능 개인정보 자율점검표를 체크리스트화해 네이버 서비스 전체를 점검했다. 또, 전세계 프롬프트 엔지니어링 공격 방식들을 대입해 테스트하고, 개선하는 작업을 반복했다. 주요 AI 서비스를 향한 공격 방식들을 수집해 클로바X 및 큐:에 수행해보고, 개발부서에 전달해 재학습시켜 동일한 취약점이 발화되지 않도록 한다.

서비스 출시 이후에는 윤리적이면서도 할루시네이션(환각)을 생성하지 않고, 국내 법제도를 준수하는 방식으로 정확한 답변을 제공할 수 있는 기준을 정립했다. 이를 통해 다시 파인튜닝하는 방식으로 모델을 계속 발전시키고 있다.

큐: 서비스 이용 가능 연령을 성인으로 제한한 이유도 이 같은 고민의 결과다. 실제, 해외에서도 14세에서 18세 이용자들의 서비스 접근을 놓고, 각 사업자마다 다른 판단을 적용하고 있다. 네이버는 처음부터 안전하게 서비스를 적용하기 위해 이용 연령을 높이고, 추후 안정화 단계에 접어들면 연령대를 낮추기로 합의했다는 설명이다.

이 CISO는 “서비스를 이용하는 과정에서 타인의 프라이버시를 침해할 수 있는 정보나 사회적으로 문제가 되거나 악용될 수 있는 정보가 발화되지 않도록 해야 한다. 이에 사전에 충분히 적대적인 프롬프팅을 통해 부적절한 답변이 발화되지 않도록 학습시킨다”며 “여기에 직접적으로 참여해서 지원하고 있다. 챗GPT 등에 문제가 된 개인정보 추출 방식이 클로바X나 큐:에서 작동하지 않는 것은 이러한 노력들이 뒷받침되기 때문”이라고 부연했다.

◆‘보안’, 서비스 기획 첫 단계부터 고려 대상

이처럼 네이버는 서비스 기획 단계부터 정보보호에 대해 고려하고 있다. 비단 AI 서비스뿐 아니라, 네이버 주요 서비스 출시 때마다 이같은 과정을 거친다. 보안을 처음부터 고려하면 처음엔 과정이 더디다고 느껴질 수밖에 없지만, 결론적으로는 가장 빠른 길이라는 설명이다.

예를 들어, AI 서비스를 완성한 후 정보보호 요소 등을 마지막에 검토할 경우 어떤 일들이 생길까? AI 학습 데이터가 적법한 방식으로 수집됐는지, 투명성을 확보했는지, 어떤 수집 단계를 거쳤는지 등을 가장 마지막 단계에서 검토하면서 치명적인 문제점을 찾았다고 가정해보자. 다시 원점에서 서비스를 재검토해야 하는 경우가 생길 수 있다.

일반 서비스도 마찬가지다. 서비스를 이용자에게 제공할 때 다양한 정보가 이용자 화면에 노출된다. 특정 이용자에게만 보여지는 정보가 있고, 어떤 이용자에게는 노출되면 안 되는 정보가 있다. 다양한 경우의 수를 서비스 최종단계에서 검토하게 되면 설계와 운영 정책을 완전히 바꿔야 하는 등 서비스 변경 폭이 커질 수밖에 없다. 출시 직전 단계에서 잘못을 고치기엔 시간이 많이 소요될 뿐 아니라, 자칫 수년에 걸친 모델을 파기해야 하는 결과를 양산할 수 있는 위험성이 크다.

이 CISO는 “보안 관련 부서가 서비스 정책과 사용자환경‧사용자경험(UI‧UX) 기획 단계부터 참여해 보여지는 화면 유형이나 노출 가능한 정보 등을 가이드하고, 이를 확인 후 문제가 없다고 승인을 한다”며 “이후 해당 기획에 따라 개발이 이어지도록 해 서비스 변경 폭을 최소화한다”고 설명했다.

이어 “첫 단계부터 데브섹옵스(DevSecOps)를 적용하는 이유”라며 “데이터는 어떻게 수집하고, 어떤 계약과정을 거치고, 포함된 개인정보를 어떻게 처리해야 하는 지 등 하나하나 단계를 밟아가며 보안 관련 조치사항을 확인한다. 처음에는 늦게 시작하는 것처럼 보일 수 있지만, 최종적으로 서비스 출시 시점을 굉장히 앞당길 수 있다”고 강조했다.

데브섹옵스는 데브옵스(DevOps)에 보안(Security)가 결합된 개념으로, 소프트웨어 설계부터 개발, 테스트, 운영까지 모든 단계에 보안을 고려하자는 방법론이다. 일반적으로 개발이 완료된 시점에 보안 정책을 적용하는 경우가 많은데, 이를 설계단계로 앞당겨 보다 안전한 서비스를 개발하자는 것이다. 네이버는 데브섹옵스를 채택한 대표적인 기업이다.

◆“데브섹옵스 실현 조직만이, 회사 가치창출에 기여 인정받을 것”

네이버가 데브섹옵스를 내세운 이유는, 실제 보안을 강화하면서도 비용을 줄이고 가치를 높이는 방법이라는 것을 알았기 때문이다. 이에 네이버는 클로바X‧큐: 등 AI 서비스에도 데브섹옵스를 적극 적용했다.

이 CISO는 “디지털전환(DX)이나 AI 도입이 의미하는 것은 변화 속도나 진폭이 기존과 비교할 수 없을 정도로 빠르고 커졌음을 의미한다”며 “결국 개발, 서비스, 사업(비즈니스) 부서와 밀접하게 연계된 정보보호 활동을 수행하지 못하는 조직은 변화에 떠밀려 도태될 수 밖에 없다”고 진단했다.

관련해 이 CISO는 데브섹옵스를 실현할 경우 정보보호 조직이 오히려 회사 매출 창출에 기여하는 조직으로 변화할 수 있다고 내다봤다.

이 CISO는 “대부분 정보보호 조직은 (매출을 벌어들이는 곳이 아닌, 비용을 쓰는 곳이라는) 코스트 센터(cost center)에 해당한다는 말을 들어왔다”며 “이제는 단순히 비용을 사용해서 현상을 유지하는 평가를 받는 것이 아니라, 혁신에 부담이 되는 조직(innovation drag)으로 평가받을 수도 있다”고 말했다.

이어 “데브섹옵스를 제대로 실현하는 조직만이 실제 매출 기여 조직(revenue enabler)으로, 회사의 가치창출에 기여할 수 있음을 인정받을 수 있을 것”이라며 “비즈니스 속도와 변화의 폭을 적극적으로 지원하고 제어할 수 있기 때문”이라고 덧붙였다.

실제, 네이버 정보보안 조직의 모토는 ‘Let’s Shift Left(왼쪽으로 이동하자)’다. IT 영역에서 ‘shift left’는 테스트‧품질‧성능 등 평가를 개발 초기(통상 코드를 작성하기 전) 단계에서 수행할 수 있도록 하는 것으로, 정보보안 절차를 제품 개발 및 출시 절차에 통합하되 이를 최대한 이른 시점부터 관여해 진행하는 전략이다.

이를 위해 개발자들이 보안을 별도로 염두에 두지 않더라도, 각 개발 단계마다 정보보안 체계가 동작할 수 있도록 길목마다 안전바를 설치해 운영하고 있다. 이같은 조직 모토가 하나의 철학으로만 있는 게 아니라, 실제로 업무상에서 동작할 수 있게 구현했다는 설명이다.

이 CISO는 “실제 이렇게 하기 위해서 수년간 내부에서 설득 작업을 진행하고, 기획‧설계‧개발 각 단계마다 필요한 안전장치를 구축해놓고 상당 부분 자동화된 방식으로 처리할 수 있게 업무 절차를 갖췄다”며 “개발자‧기획자가 보안 담당자에게 묻지 않아도, 각 단계에서 무엇을 해야 하는지 스스로 알아서 적용하도록 하고, 필요한 경우만 보안 담당자를 찾을 수 있도록 업무 절차를 마련했다”고 전했다.

◆AI 시대에 정보보호 조직이 대응하려면? “학습하는 조직 구성부터”

이와 함께 이 CISO는 AI 시대에 적극 대응하기 위해선 정보보호조직이 학습하는 조직으로 바뀌어야 한다고 제언했다. 누구에게나 다 맞는, 소위 ‘One-Size-Fits-All’ 방식의 보안은 없기 때문이다.

이 CISO는 “정보보호를 담당하는 조직이 학습하는 조직으로 빨리 전환돼야 한다”며 “내부에서 다양한 AI 서비스를 준비하고 출시하고 개선하고 있는데, 우리도 처음 접하는 기술이 상당히 많다”고 말했다.

이 기술이 실제 이용 환경에 적용했을 때 이용자에게 어떤 결과로 다가오는지, UX적 측면에서 이용자들이 어떻게 받아들이는지 등을 계속 추적하는 한편, 국내외 최신 동향을 확인하고 대응방안을 탐구하는 자세를 갖춰야 한다는 것이다. 아카이브(arXiv) 등에 공개되는 최신 논문의 공격 방식을 검토하고, 제공하는 서비스에 대입해서 취약점이 확인되는지를 검증하는 것도 필수다.

이 CISO는 “특히, 해외 경쟁사들이 어떤 정책을 가지고 어떻게 서비스를 개선하고 있는 계속 확인해야 한다. 이용자, 다른 경쟁사, 규제기관을 학습하고, 학계에서 어떤 논문을 발표했는지 등 여러 영역을 계속 살펴봐야 한다”며 “유연한 태도와 탐구하는 자세를 지속적으로 유지하는 학습하는 조직으로 변모해야, AI 서비스를 안전하게 제공할 수 있다”고 조언했다.

아울러, 이 CISO는 정보보호 활동에 LLM을 활용할 수 있는 방안을 적극 모색해야 한다고 제안했다.

예전에는 어떤 취약점이 확인됐을 때, 이 취약점이 제대로 발견한 것인지, 아니면 오탐한 것인지 일일이 기술적으로 분석하는 과정에서 상당히 많은 시간을 소요했다. 이 과정에서 스스로 최종 결론을 내리기 어렵다면, 해외에 중요한 정보보호 전문 기업들이 내놓는 리포트를 입수해서 검증하는 과정을 거치기도 한다.

지금은 취약점을 탐색하고 대응 방안을 검토할 때, LLM이 상당히 정확한 판단을 내려준다는 설명이다. 취약점에 대한 검증이나, 이를 실제 적용할 개발자에게 전달할 수 있는 UI‧UX에서 LLM을 활용할 수 있는 가능성이 크게 열려 있다는 입장이다.

이 CISO는 “LLM을 내부 서비스에 녹여서 취약점을 분석하고 대응 방안 마련 여부 등에 대해 도움을 받을 수 있다”며 “빨리 정보보호 조직들이 여러 LLM들을 써보고 내부 자체 취약점 분석 시스템 등에 녹여내, 실제 그 결과를 검토해서 개선하는 과정을 계속 겪어봐야 한다”고 전했다.

<다음 기사에서 계속>

◆네이버 이진규 CISO 약력

▲민간-정부 협업 메커니즘을 실무에서 의사 결정 레벨까지 풀 스택 경험 보유

▲국내 1위 포털(네이버)에서 정보보안 및 개인정보 보호 업무를 책임자로서 총괄

▲통신비밀보호와 관련한 법집행 기관 경력 및 기업 대응 업무 경험 보유

▲글로벌 사업 확장에서의 정보보안‧개인정보보호 업무를 법제도적,기술적으로 대응

네이버 주식회사 (2007~현재)

▲Chief Privacy Officer, Chief Information Security Officer, Data Protection Officer

▲기업보안, 개인정보보호, 정보보안, 통신비밀보호, 리스크 관리 영역 경험

▲네이버 프라이버시 센터 구축

▲통신비밀보호업무 외부검증 수행, 네이버 포괄영장전담변호사제 도입, 이용내역 서비스화 등

▲개인정보영향평가 시스템 구축 및 운영(nPIMS)

▲네이버 프라이버시 백서 발간

▲통신비밀보호업무 대응 및 외부 검증 수행