?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄

 

딥페이크 성착취물 표적된 한국

인공지능(AI)을 악용해 지인이나 연예인, 정치인 등의 얼굴을 도용한 딥페이크(deepfake) 범죄가 사회적 관심사이다. 정보기술(IT) 업계에 따르면, 초·중·고 학생이나 연예인 등의 얼굴 사진과 음란물을 합성한 딥페이크 성착취물이 텔레그램에서 대거 유포되고 있다. 딥페이크는 딥 러닝(deep learning)과 가짜(fake)의 합성어이다.

여성가족부 산하 한국여성인권진흥원의 최근 자료가 놀랍다. 올 1월 1일~8월 25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 중 288명(36.9%)은 10대 이하였다. 2022년 전체 212건 중 64건이 10대 이하에 비교하면 3.7배나 급증했다.

전 세계 딥페이크 성착취물은 1년 새 464%로 급증했다. 전체 피해자 중 53%가 한국인이다. 최다 표적이 된 상위 10명 중 8명이 한국인 가수로 나타났다. 1위 한국, 2위 미국, 3위 일본, 4위 영국. 5위 중국 순이다. 한국은 ‘딥페이크 성착취물 표적국’이라는 오명이 붙었다.

미국 사이버 보안업체 ‘시큐리티 히어로’ 조사 결과 한국은 디페이크 성착취물에 가장 취약한 것으로 나타났다. 지난 7~8월 딥페이크 성착취물 사이트 10곳과 동영상 공유 플랫폼의 딥페이크 채널 85곳, 9만 5820건을 분석했다. 그 결과 딥페이크 영상물 98%가 성착취물로 나타났다.

2022년 3725건에서 2023년 2만1019건으로 464%나 급증했다. 성착취물 피해자 99%는 여성이고 이 중 94%는 연예계 종사자로 나타났다.

가장 큰 피해를 본 가수는 디페이크 성착취물 1595건에 등장하여 조회 수 561만 회를 기록했다.

외신도 촉각을 세우고 있다. 영국의 BBC는 N번방·몰카 등 ‘디지털성범죄 흑역사 있어’라는 제하로 딥페이크와 비교 보도했다. 미국의 윌스트리트저널(WSJ)은 ‘한국, 전 세계적 문제의 진앙지’라는 제하에 문제점을 지적했다.

딥페이크 기술은 기존 합성 기술보다 고도화돼 전문지식 없이도 실제와 구분하기 어려운 음성·사진·영상 등을 생성할 수 있어 피해 규모가 더욱 크다. 정부는 딥페이크 등 허위 영상물 소지·구입·시청 행위를 처벌하는 규정을 신설하고 딥페이크 물 제작·유통에 대한 처벌 기준을 강화하는 방향으로 법률을 개정할 계획이다.

영상물 소지·구입·시청 행위에 대한 처벌은 현행법상 딥페이크 불법 음란물을 ‘반포 목적’으로 제작된 것으로 규정하는 맹점을 보완할 것으로 기대된다. 내년 도입되는 AI 디지털 교과서, 학생의 PC나 태블릿 등에 AI 딥페이크 방지 모니터링 서비스를 설치, 딥페이크 물 생성 시 자동 삭제하는 방식을 구상 중................................딥페이크 성착취물 표적된 한국 출처 : SDG뉴스(http://www.sdgnews.net)


정순채 사이버칼럼

정순채 동국대학교 융합교육원 겸임교수·경희대학교 사이버대 객원교수 · 법무법인 린 전문위원 · 해병대부사관153기

  1. No Image

    [정순채 칼럼] 인공지능 악용 사이버 침해와 보안 대책

    [정순채 칼럼] 인공지능 악용 사이버 침해와 보안 대책 생성형 인공지능(AI)은 텍스트, 이미지, 음성 등 다양한 형태의 콘텐츠를 생성하는 데 강력한 도구로 자리 잡았다. 정보통신기술(ICT) 발전은 사이버 공격자들에게 새로운 공격 수단을 제공하여 사이버 보안 위협을...
    Date2024.09.28 By관리자 Views2705
    Read More
  2. No Image

    [정순채 칼럼] 딥페이크 성착취물 표적된 한국

    딥페이크 성착취물 표적된 한국 인공지능(AI)을 악용해 지인이나 연예인, 정치인 등의 얼굴을 도용한 딥페이크(deepfake) 범죄가 사회적 관심사이다. 정보기술(IT) 업계에 따르면, 초·중·고 학생이나 연예인 등의 얼굴 사진과 음란물을 합성한 딥페이크 성착취물이 텔레...
    Date2024.09.19 By관리자 Views5284
    Read More
  3. No Image

    [정순채 칼럼] ‘디지털 성범죄’ 온상 텔레그램

    텔레그램(Telegram)이 여학생 등을 대상으로 한 딥페이크 합성음란물 범죄의 온상이 되고 있다. 정부가 ‘n번방’ 사건과 같은 디지털 성 착취와 마약 거래, 보이스피싱 등의 통로로 이용된 텔레그램을 방치했다는 지적이다. 미성년자까지 대상으로 한 딥페이크 음란물의 ...
    Date2024.09.09 By관리자 Views4146
    Read More
  4. [정순채 칼럼] 예방이 필요한 신종 온라임 범죄 ‘큐싱’

    예방이 필요한 신종 온라임 범죄 ‘큐싱’ 정순채 서울과학기술대학교 겸임교수, 서울디지털대·경희사이버대 객원교수, 법무법인 린 전문 2004년 국내에서 처음으로 피싱범죄가 발생한지 20년이 경과됐다. 그동안 보이스피싱을 비롯해 메신저피싱, 파밍, 스미싱, 메모리해...
    Date2024.09.03 By관리자 Views6145
    Read More
  5. No Image

    [정순채 칼럼] 진화하는 사이버 사기(Ⅱ)

    온라인 ‘쇼핑몰 사기’는 가급적 신용카드를 이용하며, 추가 할인 등을 미끼로 현금 거래를 유도하는 판매자와는 거래하지 않는다. 해외에서 직접 물품 구매 시에는 사전에 해당 물품 판매 사이트의 신뢰 여부를 반드시 확인해야 한다. 한국소비자원에서 운영하는 ‘국제거...
    Date2024.08.27 By관리자 Views4468
    Read More
  6. No Image

    [정순채 칼럼] 진화하는 사이버 사기(Ⅰ)

    경찰청의 ‘2023년 사이버 사기·금융범죄 집중단속’결과에 따르면 가장 자주 발생하는 범죄 유형은 사이버 사기의 경우 ‘직거래 사기’, 사이버 금융범죄의 경우 ‘메신저 피싱’으로 나타났다. 사이버 사기의 범죄 유형 중 직거래 사기가 40.22%로 가장 많았다. 다수가 이용...
    Date2024.08.19 By관리자 Views7151
    Read More
  7. No Image

    [정순채 칼럼] 미래를 준비하는 ‘컴퓨팅 사고력’

    우리는 2016년 3월 알파고와 이세돌의 세계적인 바둑 대전을 기억하고 있다. 2022년 11월에는 오픈 AI의 챗-3.5 기반의 GPT가 출시됐다. 올해 5월에는 오픈 AI의 최신모델 GPT-4o(포오)가 공개됐다. 7월 말에는 메타에서 GPT-4o를 능가하는 라마 3.0이 공개됐다. 미래에...
    Date2024.08.14 By관리자 Views6896
    Read More
  8. No Image

    [정순채 칼럼] 세상을 멈춰 세운 MS의 ‘IT 대란’

    지난달 19일 마이크로소프트(MS)의 클라우드 서비스 장해로 세계 곳곳에서 ‘사이버 정전’을 방불케 하는 대규모 마비 사태가 발생했다. 보안 프로그램 업데이트 도중 오류가 발생해 전 세계 항공, 은행, 병원 등에서 업무가 마비되는 초유의 사태가 일어났다. 순식간에 ...
    Date2024.08.05 By관리자 Views7653
    Read More
  9. No Image

    [정순채 칼럼] 신종 온라인 사기범죄 ‘큐싱’

    온라인상에서 이뤄지는 사기 수법이 갈수록 교묘해지고 있다. 최근에는 스마트폰 이용자들이 많이 사용하는 QR코드를 악용한 신종 사이버 금융사기인 ‘큐싱(Qshing)’ 피해가 증가하고 있다. 큐싱은 QR코드(Quick Response)와 피싱(Phishing)의 합성어로 QR코드를 이용한 ...
    Date2024.07.22 By관리자 Views6670
    Read More
  10. No Image

    [정순채 칼럼] 화성화재 참사와 전기차충전기의 부적합 소화기

    전기차 충전기 3년새 375%급증...지난해 기준 설치된 전기차 충전기 30만5309대 지난달 24일 경기 화성시의 전지제조 공장 화재로 23명이 숨지는 등 31명의 사상자가 발생했다. 화재 영상에는 배터리에서 흰 연기가 피어오르고 급격히 발화해 작업실 전체에 연기가 가득 ...
    Date2024.07.17 By관리자 Views5339
    Read More
  11. No Image

    [정순채 칼럼] 수면 위로 부상하는 디지털 증거

    오늘날 디지털 사회에서는 일상의 모든 상황이 디지털 매체에 기록된다. 범죄 등 다양한 사건·사고에서 증거 등 사실 입증은 매우 중요하다. 휴대폰이나 CCTV, 블랙박스와 같은 디지털 기기에서 증거를 찾기 위한 포렌식은 일반화됐다. 수사기관에서는 포렌식 등 과학수...
    Date2024.07.09 By관리자 Views11465
    Read More
  12. No Image

    [정순채 칼럼] 인공지능 전쟁과 인력 양성

    현재는 인공지능(AI)이 업무와 생활방식까지 통째로 바꿔놓는 AI 시대다. 예상을 초월한 AI의 환경 변화는 향후 예측도 어렵다. 이 같은 이유로 AI 인재 확보를 위해 구글과 오픈AI 등 글로벌 빅테크 기업은 파격적인 대우로 투자를 아끼지 않고 있다. AI가 ‘게임체인저’...
    Date2024.07.02 By관리자 Views9509
    Read More
  13. No Image

    [정순채 칼럼] 北, 오물 풍선 도발과 우려되는 사이버 공격

    지난해 11월 북한이 사실상 9.19 군사합의 파기를 선언한지 7개월 만에 대통령실은 남북 신뢰 회복 때까지 9.19 군사합의 효력을 정지시켰다. 이 같은 조치로 한반도 긴장이 높아지면서 북한발 사이버 공격 위협이 우려된다. 북한이 과거의 군사적 갈등 양상과 달리 사이...
    Date2024.06.24 By관리자 Views7352
    Read More
  14. No Image

    [정순채 칼럼] 인공지능으로 문턱 낮아진 사이버 공격

    인공지능(AI) 기술을 이용한 사이버 공격 장벽이 낮아지고 있다. 최근 대만의 세계 1위 반도체 수탁 생산 기업인 TSMC가 사이버 공격을 당했다. 미리 입수한 개인정보를 이용해 로그인을 시도하는 크리덴셜(Credential) 공격으로 나타났다. 국내의 자동차 부품 협력기업 ...
    Date2024.06.17 By관리자 Views6720
    Read More
  15. No Image

    [정순채 칼럼] 시급한 미래 지향적 인공지능 기본법

    21대 국회에서 1년 반 넘게 계류됐던 인공지능(AI) 기본법 처리가 무산됐다. 지난달 30일 개원한 22대 국회에서 다시 발의해야 한다. AI 기본법안으로 불리는 ‘인공지능산업 진흥 및 신뢰기반 조성 등에 관한 법률’은 AI에 대한 개념 규정과 AI 지원체계, 윤리원칙을 담...
    Date2024.06.11 By관리자 Views7590
    Read More
Board Pagination Prev 1 2 3 4 5 6 7 8 Next
/ 8


CLOSE