[뉴스토마토 신상민 기자] 인공지능(AI) 기술 발달로 누구나 손쉽게 기술 이용이 가능해지면서 딥페이크 범죄 연령이 낮아지고 있습니다.

딥페이크의 위협에 국제인공지능윤리협회는 청소년을 대상으로 디지털 윤리 교육이 시급하다고 강조합니다.

 

24일 방송통신위원회가 발표한 딥페이크 성범죄 대응 강화 방안에 따르면 2021년 통계 작성 이후 방송통신심의위 심리, 피해자 지원 건수는 올해 5배 이상 증가했습니다.

특히 피의자·피해자 중 10대 비중이 73.6%를 차지했습니다.

 

 

딥페이크 성범죄 피해는 유명인뿐 아니라 대학, 중·고등학교 등 다양한 곳에서 일반인을 대상으로 폭 넓게 발생하고 있습니다.

올해 초 사회를 떠들썩하게 했던 10대 딥페이크 성범죄는 1월부터 10월까지 피해 신고만 542건, 피해자는 901명에 달했습니다.

경찰 수사 결과 506명의 피의자를 검거했으며 이중 10대가 411명입니다.

피해를 경험한 청소년들은 불안감을 호소하고 있는 상황입니다.

  

 

10대가 딥페이크 범죄를 저지른 가장 큰 이유는 장난으로 조사됐습니다.

국제인공지능윤리협회(IAAE)에 따르면 딥페이크 범죄를 저지른 이유로 10대들은 40%가 '장난', 32%가 '성적 호기심', 28%가 '들키지 않을 것 같아서'라고 답했습니다.

 

 

손형주 IAAE 이사는 "이러한 학생들의 청소년들의 딥페이크 범죄 이유를 살펴보면 우리가 딥페이크 인공지능 윤리 교육이 얼마나 중요한지 알 수 있다"고 말했습니다.

 

 

정부는 디지털 성범죄 증가를 예방하고자 2025년부터 디지털 윤리 교육을 정규 교육 과정에 편성했습니다.

이를 통해 사이버 폭력, 딥페이크, 온라인 범죄에 대한 대응 능력을 키울 예정입니다.

 

 

이미 프랑스, 독일 등에서는 초·중·고등학교에서 허위 정보 위험성 식별 방법, 딥페이크 콘텐츠 분석 학습 등을 하고 있습니다.

 

 

손 이사는 프랑스, 독일 디지털 윤리 교육 사례를 언급하며 "인공지능 윤리가 기술과 윤리를 별개로 가르치는 것이 아니다.

함께 배운다고 볼 수 있다"며 "국내도 단순히 기술 도구로서만 가르치는 것이 아니라 기술과 윤리를 함께 탐구할 수 있는 학습 커뮤니티를 구축해야 한다"고 제언했습니다.

 

제5회 인공지능 윤리 대전 컨퍼런스가 지난 21일 서울 창업허브에서 열렸다.

박미애 경북대학교 교수, 고영상 홈플러스 개발팀장, 홍선기 동국대학교 교수, 손형주 원곡초등학교 교사(왼쪽부터)가 강연을 펼쳤다.

(사진=뉴스토마토)

 

신상민 기자 lmez0810@etomato.com