AI 기술의 발달은 사회적 폭력을 방지하는 데 중요한 역할을 하고 있다. 특히 보안 및 안전을 강화하기 위해 사용되는 인공지능(Guardian AI)와 비디오 분석에 특화된 인공지능(Spot AI)과 같은 기술은 폭력을 감시하고 예방하는 데 기여하고 있으며, 성폭력과 같은 개인적이고 사적인 문제에 대한 대응을 시도하는 데도 활용되고 있다. 그러나 기술적 해결책이 폭력 문제를 해결하는 데 필수적이더라도, 인간적 이해와 공감이 함께 동반되어야 그 효과가 극대화될 수 있다.

성폭력 문제는 그 발생 시점만큼이나 그 이후의 구조적 요인들이 더 큰 문제로 작용하고 있다. 피해자는 폭력 이후에도 그 상처에서 벗어나기 어려운 상황에 처하게 된다. 이 구조적 문제는 폭력 사건을 단순히 가해자와 피해자의 제로섬 게임처럼 여기게 하지만, 실제로는 피해자의 고통과 상처가 오래 지속되고 있다는 점에서 그리 단순하지 않다. 드라마 '글로리'의 주인공 문동은은 학교폭력의 피해자로서 심리적, 정서적 학대를 겪으며, 그 상처가 단순히 시간이 흐른다고 치유되지 않는 깊은 트라우마로 남는 것을 보여준다.

하퍼 리의 소설 '앵무새 죽이기'에서 톰 로빈슨은 범행을 저지르지 않았음에도 불구하고, 백인 우월주의가 지배하는 사회 구조 속에서 억울하게 유죄 판결을 받는다. 이 사건은 구조적 폭력이 어떻게 한 개인을 희생양으로 삼는지 보여주며, 폭력이 단순히 일회적인 사건이 아니라 개인의 삶에 깊은 영향을 미친다는 점에서 문동은의 사례와 연결된다. 두 인물의 경험은 그들이 겪은 폭력이 개인의 삶에 얼마나 큰 영향을 미치는지, 그리고 그 상처가 얼마나 오래 지속되는지를 보여준다.

AI 기술은 이러한 폭력 문제를 해결하는 데 실질적인 도움이 될 수 있다. AI 기반의 감시 시스템은 학교나 공공장소에서 비정상적인 행동을 탐지하고, 왕따나 폭력 상황이 발생할 가능성을 미리 감지해 교사나 관리자에게 경고를 줄 수 있다. 예를 들어, AI가 설치된 카메라가 특정 학생의 반복적인 위축된 행동이나 신체적 폭력 상황을 포착하면 교사에게 알림을 보낼 수 있다.

AI는 소셜 미디어나 메신저에서 발생하는 언어적 괴롭힘을 자동으로 탐지해 조치를 취할 수도 있다. 특정 단어나 문장 구조를 분석하여 폭력적이거나 괴롭힘과 관련된 내용을 식별하고, 이를 차단하거나 관리자가 개입할 수 있도록 알리는 기능 등이다.

그러나 기술의 발달이 긍정적인 효과만을 가져오는 것은 아니다. 최근 학교에서 디지털 성범죄가 빈번하게 발생하며, 가해 학생들이 자신의 행위가 성범죄임을 인식하지 못하는 문제도 발생하고 있다. 이로 인해 학폭위가 자주 열리지만, 이러한 문제는 기술의 부정적 측면을 보여주는 사례로 볼 수 있다. AI 기술이 교과학습에 도움을 줄 수 있지만, 동시에 잠재적 범죄의 동인을 제공할 수도 있다는 점에서 사회적 경각심이 필요하다.

무엇보다 딥페이크 기술의 확산은 이러한 문제를 더욱 악화시키고 있다. 딥페이크를 악용한 가짜 영상이나 음성 메시지는 학생들 간의 갈등을 부추기거나 허위 정보를 퍼뜨리는 수단으로 사용될 수 있다. 이는 명예 훼손, 협박, 그리고 사회적 혼란을 일으킬 위험을 포함한다. 특히, 가짜 성적 영상이나 폭력적인 콘텐츠로 인해 피해자는 심리적 상처를 입고, 그들의 일상은 점점 왜곡된 현실과 허위 정보 속에서 혼란을 겪게 된다. 딥페이크 피해는 단순히 일회적인 사건으로 끝나지 않으며, 피해자는 끊임없는 불안 속에서 고립될 수밖에 없다.

AI 기술의 발전 속도는 빠르지만, 딥페이크와 같은 문제를 탐지하고 대응하는 기술은 그만큼 뒤처지고 있다. 기술의 발전이 범죄를 양산하는 한편, 이에 대응하기 위한 기술 발전이 필수적이라는 점은 아이러니하다. 따라서 AI 기술이 범죄 예방과 폭력 대응에 기여하려면, 단순히 기술적 해결책을 제공하는 것에서 나아가 인간적 연대와 공감을 바탕으로 한 사회적 노력이 동반되어야 한다.

결국, 기술적 대응은 폭력 피해자의 심리적 상처를 치유하는 데 중요한 도구가 될 수 있지만, 근본적인 고통과 상실감에 대한 인간적 이해와 공감이 필요하다. AI 기술이 사회적 폭력 문제를 해결하는 데 중요한 역할을 할 수 있지만, 기술만으로는 한계가 있다. 인간적 공감과 지원이 함께 이루어질 때, 사회적 상처의 실질적 치유와 회복이 가능할 것이다.

글: 칼럼니스트 조은희(조은희의 조은국어 소장/ 조은국어 원장)

<기고와 칼럼은 본지 편집방향과 무관합니다.>