영상 합성 기술이 보편화되면서 악용도 증가하고 있습니다. 최근에는 딥페이크(불법 합성 영상) 성범죄 문제가 대두하고 있습니다.

딥페이크는 인공지능을 이용해 특정인의 얼굴을 다른 사람의 영상에 합성하여 실제처럼 보이게 만드는 영상 기술입니다. 다른 사람이 찍은 비디오에 내 얼굴을 합성해 내가 출연한 것 같은 비디오를 만들 수 있습니다. 누군가 이 기술을 악의로 사용한다면 내 얼굴과 음란물을 합성할 수도 있습니다.

실제로 딥페이크 음란물이 만들어져, 서울 디지털 성범죄 안심센터에 접수된 피해 건수만 2022년 10명에서 올해 8월 기준 304명으로 2년 사이 30배 이상 늘었습니다. 전체 피해자 중 10대가 37%(121명)로 가장 많고, 가해자 또한 10대 비중이 31%(27명)로 가장 높으며, 가해자와 피해자의 관계 중에는 친구가 34%(31명)로 가장 많아 더욱 충격을 줍니다. 경찰청이 국회의원에 제출한 자료에는 작년 허위 영상물 범죄 혐의로 입건된 피의자 중 76%가 10대로 나타나 있습니다. 해외 SNS에서 딥페이크 합성물과 아동·청소년 성 착취물을 4만 5천 개 이상 판매한 10대들이 붙잡히기도 했습니다.

최근 국회는 딥페이크로 만든 성 착취물로 아동ㆍ청소년에 협박이나 강요를 하면 각 징역 3년 이상, 5년 이상에 처하는 법안을 상임위 소위에서 통과시켰습니다. 서울시는 청소년 딥페이크 성범죄에 대응하고자 서울중앙지방검찰청, 서울시교육청 등과 협업하고 있습니다. 피해 발생 시 선생님이나 학교 전담 경찰관을 통해 피해 영상물을 삭제하는 '스쿨 핫라인' 가동, 피해자에게 법률 및 심리 상담을 지원하는 '학교로 찾아가는 원스톱 통합지원' 운영 등이 이뤄질 예정입니다.

기술의 발전은 우리 삶을 편리하게 해주지만, 그 이면에서 발생하는 심각한 문제를 간과해서는 안 됩니다. 딥페이크 성범죄와 같은 기술 악용은 개인의 안전과 인권을 심각하게 위협합니다. 청소년들이 이 기술에 노출되면서 피해와 가해가 늘어나는 현실은 더욱 경각심을 불러일으킵니다. 이에 대응하기 위한 법적 조치와 지원 시스템이 마련되고 있는 것은 긍정적이지만, 사회 전반에서 인공지능 기술의 윤리적 사용에 대한 자구책 마련과 교육은 여전히 필요합니다. 개인의 존엄성을 지키고 건강한 사회를 만드는 데는 우리 모두의 노력이 필수적입니다. 청소년에게 올바른 기술 활용 지식을 심어주는 것도 어른들이 해야 할 몫입니다.