AI로 벗기는 앱, 사진 속 여성의 의상을 벗기는 기능에 부작용 발생 > 생활

AI로 벗기는 앱, 사진 속 여성의 의상을 벗기는 기능에 부작용 발생

작성자

창업뉴스

0건

조회

21회

작성일 23-12-10 18:07

AI의 악용을 막기 위한 규제가 각국에서 이루어지고 있는 가운데, 한 앱이 사진 속 여성의 옷을 AI로 벗겨주는 기능을 제공하여 1개월 동안 2000만명 이상의 주목을 받았다고 보도되었습니다. AI 기술의 확산으로 인해, 딥페이크 성착취물을 만드는 앱들도 쉽게 만들어지면서 부작용이 발생하고 있습니다.

외신들에 따르면, 소셜 네트워크 분석회사인 그래피카는 지난 9월 동안 사진 속 인물의 옷을 벗기는 기능을 제공하는 34개의 웹사이트에 약 2400만명이 방문했다고 밝혔습니다. 이러한 사이트들은 유명인뿐만 아니라 직장 동료, 동급생, 낯선 사람, 어린이 등의 사진을 입력하면 몇 번의 클릭만으로 인물의 옷을 제거할 수 있다고 설명되었습니다. 여러 사이트 중 일부는 여성 사진에서만 이 기능이 작동하였고, 어느 곳에서는 "원하는 여성의 옷을 벗기라"는 광고가 나왔습니다.

과거에는 사진 속 인물의 옷을 가상으로 벗겨내는 산업은 거의 존재하지 않았으나, 오픈소스 AI 이미지 기술의 확산으로 인해 이러한 부작용이 커지게 되었습니다. 실제로, 레딧이나 X(옛 트위터)와 같은 플랫폼에서 "옷 벗기기 앱"의 추천 링크가 올해만 2400% 이상 증가한 것으로 알려져 있습니다. 게다가 X에는 "디지털로 누군가의 사진 속 옷을 벗겨낸 후 당사자에게 사진을 보낼 수 있다"는 문구가 포함된 광고도 게시되었습니다. 이는 사실상 해당 이미지가 누군가를 협박할 목적으로 사용될 수 있다는 것을 암시한 것입니다.

최근 영상 AI 프로그램에 대한 접근성이 높아지면서 이러한 부작용이 나타났습니다. AI 기술의 발전으로 인해 수년 전부터 우려되었던 딥페이크 성착취물의 맥락에서 이 문제를 접근해야 한다는 지적이 제기되고 있습니다. 다양한 소셜 네트워크 서비스...