1. 딥페이크는?

딥페이크는 컴퓨터가 사람처럼 생각하고 배울 수 있도록 하는 인공지능 기술인 딥러닝(Deep Learning)과 ‘가짜’라는 뜻의 페이크(Fake) 의 합성어로 AI 기술을 활용하여 실제와 비슷한 가짜 사진이나 영상을 제작하는 기술

2. 약인가? 독인가? 기술의 양면성

딥페이크는 역사적 인물의 모습을 재현하거나 가상 캐릭터를 이용한 교육 콘텐츠 제작에 활용하는 등 좋은 목적으로도 사용되는 반면, 이를 악용하여 가짜 뉴스를 퍼뜨리거나 타인의 얼굴을 무단으로 도용하여 사생활을 침해하는 사례가 늘면서 악용에 대한 우려가 커지고 있습니다.

3. 딥페이크 악용 사례

96%가 성 착취물 딥페이크 영상

- 유명 연예인의 얼굴이나 특정한 신체 부위를 성 착취물에 합성하거나 지인의 얼굴을 성적 이미지에 합성하는 ‘지인 능욕’ 영상 의뢰

- SNS에 올라온 사진으로 가짜 성 착취물 제작, 유포하겠다며 금품 요구

가짜 정보 양산 및 확산

- 미국에서 바이든 대통령의 목소리로 예비 투표에 참여하면 대선 투표를 할 수 없다는 거짓 내용의 딥페이크 음성메세지를 유권자들에게 전파

- 경제 전문가 얼굴을 합성한 가짜 인터뷰 영상을 SNS에 게시, 주식 투자 유도

보이스피싱

학교에 간 자녀의 목소리로 교통사고 합의금, 병원비를 요구하는 딥페이크 음성 제작, 말투와 목소리가 똑같아 의심 없이 돈을 송금하여 재산 피해

4. 딥페이크 범죄, 처벌 형량은?

청소년성보호법 제 11조 제1항(아동·청소년성착취물의 제작·배포 등)

- 아동·청소년 성 착취물 제작 및 배포 → 무기징역 또는 5년 이상의 유기 징역

성폭력처벌법 제 14조의2 (허위영상물 등의 반포 등)

- 영상물 편집 합성 가공 및 유포 → 5년 이하의 징역 또는 5천만 원이하의 벌금

- 영리 목적으로 영상물 등을 판매 → 7년 이하의 징역

정보통신망법 제 70조 제2항 (허위사실적시 명예훼손)

- 불법 성 영상물 제작 유포 → 7년 이하의 징역 또는 5천 만 원 이하의 벌금

5. 딥페이크 관련 범죄, 이렇게 대처하세요

① SNS상에서 만난 사람에게 개인정보(학교, 연락처 등)를 공유하지 않아야 하며 개인정보를 유추할 수 있는 게시물은 비공개 하는 것이 좋습니다.

② 자신을 비롯한 지인들의 피해 발생 시 혼자 고민하지 말고 경찰청(☎112)으로 연락하세요.

- 피해 신고 시 신분 노출은 걱정하지 않으셔도 됩니다.

③ 디지털성범죄피해자지원센터를 통해 도움을 받으실 수 있습니다.

딥페이크 불법 영상물, 제작 뿐 아니라 복제와 편집·반포에 대해서도 모두 처벌 대상입니다.

[출처] 대한민국 정책브리핑