[ 기자수첩 ]
최은숙 기자 ches@pckworld.com
2024년 09월 02일(월) 11:17
소셜네트워크서비스(SNS)의 모든 사진을 삭제하지 않으면 누구든지 '디지털 성범죄'의 피해자가 될 수 있다는 불안감이 고조되고 있다. SNS에서 내려 받은 얼굴 사진에 각종 음란물을 합성하고 텔레그램방에 유포하는 딥페이크(deepfake) 성범죄가 기승을 부리고 있기 때문이다.
딥페이크는 인공지능(AI) 심층 학습을 뜻하는 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어로 'AI가 만든 가짜 콘텐츠'다.
최근 딥페이크 기술을 악용한 신종 '디지털 성범죄'가 빠르게 퍼지면서 '나'도 성착취물의 피해자가 될 수 있다는 불안감이 커지고 있다. 가해자들이 가까운 지인의 SNS에 올라온 사진을 무단으로 저장하고 범행에 활용한 사실이 드러나면서 'SNS포비아' 현상까지 나타나고 있다. 추억을 기록하고 공유하기 위한 사진은 삭제되고 계정을 비공개로 바꾸거나 탈퇴하는 경우도 늘고 있다.
A씨는 "친한 친구들에게만 계정을 공개했는데 지금은 지인도 믿을 수 없다. 이미 공개된 사진이 성범죄에 악용됐을 지 모르겠다"고 불안감을 토로했다. 누구든지 디지털 성범죄의 잠재적 타겟이 되면서 공포와 불안감은 점점 커지고 공동체 신뢰마저 무너지고 있다. 더구나 딥페이크 성범죄가 10대를 중심으로 빠르게 확산되고 실제 학교 현장에서 가해자와 피해자가 대거 발생하면서 일부 지역에서는 '딥페이크 성범죄 특별주의보'발령까지 내려졌다.
AI의 기술혁명이 이쯤에서 끝날 리가 없다. AI 오남용으로 부작용의 폐해는 더 커질 가능성이 높다. 결국 딥페이크 성범죄는 걷잡을 수 없게 확산되고 피해자들이 대거 양산될 것이다.
"좌파 교육감들이 교육 현장을 장악하고 나서 성에 대한 방종을 부추겼기 때문"이라는 둥, "여성가족부를 무기력하게 하는 정부의 정책 방향이 디지털 성범죄를 방치해 온 것"이라는 둥의 정치적 비난은 잠시 접어두고, 최첨단 기술의 달콤함에 빠져 그로 인해 치러야 할 대가가 이보다 더 가혹해지기 전에 'AI 부작용'방지부터 고민해야 할 이유는 충분하다.
최은숙 기자
딥페이크는 인공지능(AI) 심층 학습을 뜻하는 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어로 'AI가 만든 가짜 콘텐츠'다.
최근 딥페이크 기술을 악용한 신종 '디지털 성범죄'가 빠르게 퍼지면서 '나'도 성착취물의 피해자가 될 수 있다는 불안감이 커지고 있다. 가해자들이 가까운 지인의 SNS에 올라온 사진을 무단으로 저장하고 범행에 활용한 사실이 드러나면서 'SNS포비아' 현상까지 나타나고 있다. 추억을 기록하고 공유하기 위한 사진은 삭제되고 계정을 비공개로 바꾸거나 탈퇴하는 경우도 늘고 있다.
A씨는 "친한 친구들에게만 계정을 공개했는데 지금은 지인도 믿을 수 없다. 이미 공개된 사진이 성범죄에 악용됐을 지 모르겠다"고 불안감을 토로했다. 누구든지 디지털 성범죄의 잠재적 타겟이 되면서 공포와 불안감은 점점 커지고 공동체 신뢰마저 무너지고 있다. 더구나 딥페이크 성범죄가 10대를 중심으로 빠르게 확산되고 실제 학교 현장에서 가해자와 피해자가 대거 발생하면서 일부 지역에서는 '딥페이크 성범죄 특별주의보'발령까지 내려졌다.
AI의 기술혁명이 이쯤에서 끝날 리가 없다. AI 오남용으로 부작용의 폐해는 더 커질 가능성이 높다. 결국 딥페이크 성범죄는 걷잡을 수 없게 확산되고 피해자들이 대거 양산될 것이다.
"좌파 교육감들이 교육 현장을 장악하고 나서 성에 대한 방종을 부추겼기 때문"이라는 둥, "여성가족부를 무기력하게 하는 정부의 정책 방향이 디지털 성범죄를 방치해 온 것"이라는 둥의 정치적 비난은 잠시 접어두고, 최첨단 기술의 달콤함에 빠져 그로 인해 치러야 할 대가가 이보다 더 가혹해지기 전에 'AI 부작용'방지부터 고민해야 할 이유는 충분하다.
최은숙 기자
