[디지털데일리 오병훈 기자] AI 전문기업 솔트룩스는 지난달 30일 주관한 '사회적·윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구' 과제 관련 워크샵이 성황리에 종료됐다고 15일 밝혔다. 이번 워크샵에는 서울대학교, 성균관대학교, 서강대학교, 건국대학교, 한국과학기술원(KAIST), KT, 한국전자통신연구원(KETI), 다이퀘스트 등 8개의 주요 대학, 연구기관 및 기업이 참여했다.

이번 워크샵의 목적은 '사회적·윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구'에 대한 가이드라인을 수립과 연구 성과 공유다. 참석자들은 다양한 도메인에서 생성 AI의 사회적·윤리적 능력을 보편적 특성에 맞게 개선하는 방안, 지속 가능하고 확장 가능한 플랫폼으로 구현하는 방안을 논의했다.

현재 참여 기관들은 각자의 전문성을 바탕으로 사회적·윤리적 편향을 최소화한 데이터셋을 개발하는 중이다. 나아가 이를 바탕으로 생성 AI의 윤리성 향상을 위한 연구를 진행 중이다. 특히 학제 간 협력을 강화하기 위해 'MoEE(Mixture of Ethics Experts)' 기술이 개발됐으며 이를 통해 AI 모델의 윤리적 기준을 강화할 수 있는 기반이 마련됐다.

솔트룩스는 이번 연구 과제의 최종 목표가 '윤리-일반 인공지능 운영(Ethics-GenAIOps)' 오픈 플랫폼을 개방하고 100만명 이상의 대국민 서비스 사용자를 확보하는 것이라고 밝혔다. 또한 오는 12월 4일 본 과제 참여 기관인 서울대학교 AI연구원 인공지능 ELSI 연구센터가 주최하는 '2024 인공지능 ELSI 심포지움'에 참여한다. 이 심포지움에서는 인공지능 윤리, 편향성, 신뢰성 등을 주제로 다양한 전문가들이 모여 의견을 나눌 예정이다.