[디지털데일리 이건한 기자] 박빙이었던 미국 대선의 승자가 도널드 트럼프 공화당 후보로 최종 확정되면서, 각계에 미칠 영향에 대한 관심이 높아진다. 특히 미국이 주도하는 인공지능(AI) 산업은 바이든 전 대통령의 'AI 행정명령'을 트럼프가 백지화하겠단 예고를 내놨던 바 있어 전격적인 변화가 예상된다.

바이든 전 대통령이 지난해 10월30일 서명한 AI 행정명령의 정확한 명칭은 '안전하고 신뢰할 수 있는 AI 개발 및 사용에 관한 행정명령'(Executive Order 14110)'이다. 이름처럼 AI 개발 및 사업에서 기업이 성능보다 사용자 안전을 중시하고, 개발 과정을 투명하게 만드는 것이 골자다. 생성형 AI의 급속 발전에 따라 딥페이크 오남용, 가짜뉴스 생성에 AI 서비스가 무분별하게 이용되며 생기는 사회적 혼란을 막고 기업이 보다 윤리적인 AI 기술을 개발하도록 유도하는 것이 목적이다.

본 행정명령 세부 내용에 따르면 AI 개발 기업은 미국의 안보, 건강, 안전을 위협할 수 있는 AI 모델에 대해 정부 검증 전문가팀의 안전 검사를 받고, 그 결과를 정부에 제출해야 한다. 이는 국방물자생산법에 근거한 강력한 조치로, 미국 기업의 AI 기술을 쓰는 외국 기업도 동일한 평가 및 결과 보고가 필요하다. AI 훈련 방법 같은 예민한 내용도 평가에 포함된다.

또한 행정명령은 미국 국립표준기술연구소(NIST), 상무부, 에너지부 등에 각자 최고 수준의 AI 안전성 확보를 위한 표준 및 평가 방안도 마련하도록 명시됐다. 대표적으로 AI로 생성된 콘텐츠 식별을 위한 워터마크 적용이 꼽힌다. 더불어 기업은 AI 개발 및 훈련에 개인정보 불법 사용을 규제하는 지침도 만들어야 한다.

이에 대한 평가는 상반된다. 국내 국가안보전략연구원은 2023년 11월 발간한 미국 AI 행정명령 분석 보고서에서 "AI의 긍정적 잠재성은 극대화하고, 미국의 국가 안보와 일자리 등에 미칠 위험성은 최소화하는 규제"로 평가했다.

반면 AI 기술기업, 기술 진보주의자들은 본 행정명령이 기업의 AI 서비스 개발 위축으로 이어질 부작용을 우려하기도 했다. 피보탈 테크놀로지스의 CEO 야신 만라즈는 "정부의 강력한 감독이 AI 모델 발전 속도를 심각하게 늦추고, 그 결과 경쟁국에서 활동하는 기업들보다 불이익을 받을 가능성이 크다"고 언급한 바 있다.

이런 평가는 트럼프 당선으로 다시 희비가 갈리게 됐다. 이번 대선에서 트럼프와 경쟁한 카멀라 해리스는 바이든 행정부에서 본 행정명령 추진을 주도한 인물로, 그가 당선됐을 경우 임기 중 더 강력한 후속조치가 따를 수 있었다.

반면 트럼프는 지난해 12월 AI 행정명령을 겨냥해 "다시 취임하면 바이든 행정부의 불법적인 검열 체계를 부술 것"이라 선언한 인물이다. 또한 IRA(인플레이션감축법) 등 바이든이 만든 여러 국가정책을 백지화하겠다고 공공연히 밝혔던 만큼, AI 행정명령 또한 전면 수정의 가능성을 피하기 어렵게 됐다.

워싱턴포스트도 지난 7월, 트럼프 캠프가 AI판 '맨해튼 프로젝트'를 구상 중이라고 보도한 바 있다. 맨해튼 프로젝트가 과거 미국의 핵개발 프로젝트 명칭이었던 것처럼 해당 계획도 AI를 활용한 군사 분야의 대대적인 개발 및 투자 계획이 담긴 것으로 추정됐다. 군사 부문의 AI 접목은 대개 살상무기 고도화와 연결되는 만큼 안전한 AI와 거리가 멀고, 이를 개발하는 기업들에 대한 검열 수준도 대폭 낮아질 수밖에 없다는 평가다.

무엇보다 '미국 우선주의'를 필두로 지지자들을 모았던 트럼프의 특성상, 자국 AI 기업들이 시장 경쟁 측면에서 부담을 느낄만한 정책을 고수할 가능성도 낮다. 트럼프 본인 또한 생성형 AI로 '가짜뉴스' 논란이 따랐던 사진을 다수 배포하는 등 자유로운 AI 사용에 거리낌이 없는 모습을 보여왔다.

이밖에 최근 글로벌 AI 국가 정책, 연구에서 안전한 AI는 중요한 의제로 논의됐다. 올해 AI 분야에서 사상 처음으로 노벨상을 수상한 제프리 힌튼 토론토대학 교수도 AI 위협에 대한 경고를 지속해 온 업계 권위자다. 반면 AI를 이용한 이익 추구에 우선순위를 둔 트럼프가 재선에 성공하며, 향후 전세계 AI 업계에 미칠 영향에 귀추가 주목된다. 6일 오전(미국시간) 당선이 확정된 트럼프는 "미국 국민의 큰 승리"라며 "미국을 다시 위대하게 만들 것"이란 소감을 전했다.