인공지능을 활용해 만든 가짜 콘텐츠 ‘딥페이크(deepfake)’ 문제가 심각하다. 전에도 합성 이미지나 영상 등의 유포가 있었다. 인공지능(AI) 시대에는 그 피해가 한층 증폭됐다. AI를 활용해 빠르고 쉽게 진짜 같은 가짜 콘텐츠가 만들어지고 있다. AI 기술은 빠르게 성장하지만 국내 AI 분야 입법 등 규제는 지지부진하다.
딥페이크는 축적된 대규모 데이터를 스스로 학습하는 AI 기술인 딥러닝(deep learning)과 가짜·조작 등을 뜻하는 페이크(fake)의 합성어다. 인물의 실제 영상이나 사진, 오디오 등을 합성해 진위를 가리기 어려운 콘텐츠다. 이 기술은 영상 편집과 합성 프로그램 개발 속도로 업그레이드 중이다. 생성형 AI 등장 이후 이 기술은 이전과 비교할 수 없을 정도로 고도화됐다.
국내에서 딥페이크 기술은 2022년 대선 때 주목받았다. ‘AI 윤석열’과 ‘AI 이재명’이 선거운동에 활용됐다. 미국에선 2020년 대선 당시 조 바이든 민주당 후보가 유세 중 주(州)를 잘못 말하는 가짜 영상이 유포됐다. 11월 대선을 앞둔 1월 말에는 음성이 위조된 바이든 대통령의 로보콜(자동 녹음 전화) 사건이 발생됐다. 민주당원들에게 “화요일에 투표하는 건 도널드 트럼프 당선을 돕는 일”이라는 내용이다.........................[정순채 칼럼] AI 창작물에 당하는 더 진짜 같은 가짜 < 칼럼 < 오피니언 < 기사본문 - SDG뉴스 (sdgnews.net)
