정순채 서울과기대 겸임교수/법무법인 린 전문위원

인공지능(AI)은 우리의 삶을 편리하게 만들고 있지만 그 이면에서는 새로운 사회적 위험이 빠르게 자라나고 있다. 그중에서도 우려되는 것은 사이버불링(온라인 괴롭힘)의 진화이다. 

과거 사이버불링은 악성 댓글이나 욕설, 따돌림과 같은 비교적 단순한 형태에 머물렀다. 이제는 AI 기술을 활용한 훨씬 정교하고 파괴적인 방식으로 변화하고 있다.

가장 대표적인 사례는 딥페이크 기술이다. 얼굴과 목소리를 정교하게 합성해 실제처럼 보이는 영상이나 이미지를 만들어낸다. 개인을 대상으로 한 허위 사실 유포와 명예 훼손을 극단적으로 확대시킨다. 성적 이미지로 조작된 딥페이크는 피해자에게 심각한 정신적 고통을 안긴다. 

단순한 장난을 넘어 디지털 성범죄로까지 이어지고 있다. 더 큰 문제는 이러한 콘텐츠가 매우 짧은 시간 안에 만들어지며, 한 번 유포되면 완전히 삭제하기 어렵다는 점이다.

AI는 사이버불링의 규모도 바꿔놓고 있다. 과거에는 한 사람이 여러 사람을 괴롭히기 위해 상당한 시간과 노력이 필요했다. 그러나 이제는 AI를 활용해 수십, 수백 개의 악성 메시지를 자동으로 생성하고 퍼뜨릴 수 있다. 특정 인물을 겨냥한 조직적인 공격 역시 훨씬 쉬워졌다. 이로 인해 피해자가 받는 심리적 압박은 과거보다 훨씬 더 커질 수밖에 없다.

더 큰 문제는 진짜와 가짜를 구별하기가 점점 어려워지고 있다는 점이다. AI가 생성한 이미지와 영상은 날로 정교해지고 있어 일반 이용자가 이를 판별하기란 쉽지 않다. 그 결과 사실이 아닌 내용도 사실처럼 받아들여지면서 피해는 눈덩이처럼 불어난다. 피해자는 자신이 하지 않은 행동에 대해서까지 해명해야 하는 상황에 내몰릴 수 있다.

청소년에게 미치는 영향도 심각하다. 학교에서의 괴롭힘이 온라인으로 확장되는 것은 물론 AI 도구를 활용한 장난이 쉽게 범죄 수준으로 넘어갈 수 있다. 많은 청소년들은 이러한 행위의 심각성을 충분히 인식하지 못하고 있다. 기술의 접근성은 빠르게 높아지고 있지만 이에 대한 윤리 교육과 사회적 규범은 그 속도를 따라가지 못하고 있다.

정부와 기업들도 대응에 나서고 있다. 딥페이크 범죄에 대한 처벌을 강화하고, 플랫폼 기업들은 AI 생성 콘텐츠를 탐지하고 삭제하는 기술을 개발하고 있다. 그러나 기술 발전의 속도에 비해 제도적 대응은 여전히 뒤처져 있는 것이 현실이다. 무엇보다 중요한 것은 이용자 스스로의 인식 변화와 책임감이다.

AI는 어디까지나 도구일 뿐이다. 그것을 어떻게 사용하는가는 사용자인 인간의 선택에 달려 있다. 기술이 아무리 발전하더라도 타인을 존중하고 배려하는 기본적인 윤리가 뒷받침되지 않는다면 그 피해는 더욱 커질 수밖에 없다. AI 시대의 사이버불링 문제는 단순한 기술의 문제가 아니다. 우리가 어떤 사회를 만들어갈 것인가에 대한 근본적인 질문이기도 하다.  출처 : SDG뉴스(http://www.sdgnews.net)