전 세계적으로 기후 위기와 자원 고갈에 대한 경각심이 높아지면서, ‘지속 가능성’은 더 이상 선택이 아닌 기업 생존의 필수 전략으로 자리 잡고 있다. 유럽연합(EU)을 비롯한 주요 국가들은 탄소중립 목표를 법제화하고 있으며, 기업의 ESG(환경·사회·지배구조) 정보 공개를 의무화하고 있다. 한국 역시 2021년 ‘ESG 인프라 확충 방안’을 발표하고, 대기업은 물론 중견·중소기업까지 ESG 경영의 틀 안에 편입되는 흐름을 강화하고 있다. 이러한 변화 속에서 산업 전반에 걸친 디지털전환이 가속화되고, 생성형 인공지능(AI)의 활용이 기업의 업무 방식과 가치사슬 전반에 영향을 미치고 있는 지금, 생산성과 효율성뿐 아니라 ‘지속가능한 기술 운영’이 중요한 경영 기준으로 부상하고 있다.

생성형 AI의 확산은 분명 기업 혁신에 기여하고 있지만, 동시에 막대한 연산 자원과 에너지를 소모하면서 새로운 환경적 부담을 초래하고 있다. AI 모델을 훈련하고 운영하는 데 필요한 고성능 컴퓨팅 인프라는 많은 전력을 요구하며, 이를 제대로 관리하지 않으면 운영 비용과 탄소 배출 증가라는 리스크로 이어질 수 있다.

실제로 2024년은 전 세계적으로 관측 사상 가장 더운 해로 기록되었고, 이러한 기후 위기 상황 속에서 에너지 집약적 기술인 생성형 AI의 확산은 데이터센터의 냉각 부담을 가중시키고, 기존의 에너지 관리 체계를 다시 들여다보게 만들고 있다. AI 기술이 지속 가능성과 충돌하지 않기 위해서는, 단순한 기술 도입을 넘어 ‘어떻게 운영하느냐’에 대한 전략적 접근이 필요한 시점이다.

미국 전기전자공학자협회(IEEE)에서 발행하는 매거진 IEEE스펙트럼에 따르면, 현재 AI 기술(생성형 AI 포함)은 연간 약 29.3테라와트시(TWh)의 전력을 소비할 것으로 추정하고 있다. 이는 부산시의 연간 전력 소비량(약 21.5TWh)을 뛰어넘는 수준이며, 서울시 전체 전력 소비량(약 47.3TWh)의 62%에 해당한다.

특히, 생성형 AI의 핵심인 대규모언어모델(LLM)을 활용한 단일 질의응답(interaction)에는 LED 전구를 한 시간 동안 켜는 것과 같은 수준의 전력이 소모된다. 개별적인 소비량은 작아 보일 수 있지만, 하루 수백만에서 수억건의 AI 요청이 발생할 수 있다는 점을 고려하면, 총 에너지 소비량은 기하급수적으로 증가할 수밖에 없다.

이러한 문제를 해결하기 위해 기업들은 단순히 AI 기술을 도입하는 데 그치지 않고, 전문 파트너와의 협력 및 인프라 전략 수립을 통해 지속 가능성을 확보할 수 있는 방향으로 접근해야 한다. 특히, 국내 기업들이 고려할 만한 세 가지 핵심 요소는 다음과 같다.

1. 에너지 소비 측정 및 최적화

기업은 AI 시스템 및 데이터센터 운영에 따른 에너지 사용량을 정량적으로 파악하고, 이를 기반으로 효율적인 운영 전략을 수립할 필요가 있다. 특히 지속가능성 진단 솔루션(Sustainability Advisor)을 활용하면 IT 인프라 전반의 에너지 소비 현황과 탄소 배출량을 실시간으로 분석하고, 낭비 요소를 사전에 파악해 최적화 조치를 취할 수 있다. 단순한 모니터링을 넘어, 예측 기반의 인사이트를 제공해 탄소 감축과 비용 효율을 동시에 추구할 수 있는 실행 전략으로 이어진다는 점에서, 지속 가능성을 고려한 AI 활용의 출발점이 될 수 있다.

2. 고효율 AI 모델 도입 및 연산 최적화

대부분의 국내 기업은 자체적으로 AI 모델을 경량화하거나 최적화하기 어려운 만큼, 연산 효율성이 높은 AI 모델을 제공하는 솔루션 벤더나 클라우드 플랫폼과 협력하는 것이 현실적인 대안이다. 이를 통해 기업은 자체 개발이 아닌 ‘도입’ 중심의 전략으로 효율적인 AI 활용 환경을 갖출 수 있으며, 클라우드 기반 연산으로 전환해 운영 효율을 극대화할 수 있다.

3. 친환경·고효율 인프라 전략 수립

지속가능한 AI 운영을 위해서는 인프라 수준에서의 대응이 필수적이다. 특히, AI 연산을 수행하는 데이터센터와 클라우드 인프라의 에너지 효율성과 전력원의 지속 가능성을 동시에 고려해야 한다. 온프레미스 환경을 운영하는 기업이라면, 서버 가상화, 지능형 냉각 시스템, 폐열 활용 등 에너지 절감을 위한 기술 도입이 효과적이다. 자체 인프라 보유가 어려운 경우에는, 태양광이나 풍력 등 재생 가능 에너지 사용 비율이 높은 클라우드 서비스 제공업체를 선택하거나, ESG 기준에 부합하는 데이터센터 환경을 갖춘 파트너사와 협력하는 방식이 대안이 될 수 있다.

생성형 AI는 산업 전반의 생산성과 혁신을 동시에 이끌 수 있는 잠재력을 지닌 기술이다. 그러나 그 가능성을 온전히 실현하기 위해서는, 기술의 효율성뿐 아니라 운영의 지속 가능성까지 함께 설계되어야 한다. AI의 도입이 곧 환경적 책임을 수반하는 시대가 도래한 만큼, 이 기술을 어떻게 활용하느냐보다 어떤 방식으로 운영하느냐가 기업의 경쟁력을 결정짓게 될 것이다.

생성형 AI를 활용하면서도 에너지 절감이라는 명확한 성과를 만들어내지 못한다면, 이 기술의 본질적 가치는 제한될 수밖에 없다. 앞서 제시한 전략은 단순한 기술적인 선택지가 아니라, 지속 가능한 성장 구조를 구축하기 위한 실질적인 경로다. 이 전략은 기업 혼자의 힘으로 완성되기 어렵기에, 기술 파트너 및 클라우드 생태계와의 유기적인 협력이 뒷받침되어야 한다.

지금 기업에게 필요한 건 속도가 아니라 방향이다. AI를 지속가능한 방식으로 운영하는 기업만이 기술을 ‘지속가능한 경쟁력’으로 전환하고, 변화의 파고 속에서 시장을 이끌어갈 수 있을 것이다.

류주복 킨드릴코리아 대표

<기고와 칼럼은 본지 편집방향과 무관합니다>