• 목록

• 페이스북 공유
• 트위터 공유

인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자 수가 미국에서 폭증하고 있는 가운데 악용 우려도 커지고 있다.

지난 9월 한 달 동안에만 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문한 이용자 수는 약 24백만 명에 달한다고 소프트웨어 기업 그래피카에 따르면 블룸버그통신이 보도했다. 딥페이크란 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 의미한다.

그래피카는 올해 초와 비교해 9월에는 X(엑스·옛 트위터)와 레딧 등 소셜미디어에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 증가했다고 전했다.

딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 여성이 옷을 벗고 있는 것처럼 가짜 이미지를 생성하며, 이런 앱들의 대부분은 여성을 대상으로 한다. 그래피카는 이들 앱과 웹사이트의 인기가 최근 몇 년 동안 AI 기술이 발달해 그럴듯한 이미지를 만들 수 있게 된 것과 관련이 있다고 설명했다. 개발자들은 오픈 소스 AI를 활용해 무료로 옷 벗기기 앱을 만들 수 있다.

그러나 최근 AI 기술의 발전으로 인해 이런 앱과 웹사이트들이 범죄에 악용될 수 있는 우려가 커지고 있다고 블룸버그는 지적한다. 이 앱들은 소셜미디어에서 동의나 통제 없이 다른 사람의 사진을 가져와 나체 사진 등의 음란물로 만들고 이를 배포함으로써 심각한 법적·윤리적 문제를 야기할 수 있다.

사실, 최근 X에서는 한 광고가 AI를 사용해 다른 사람의 나체 이미지를 생성하고 해당 사람에게 다시 전송할 수 있는 내용으로 성희롱을 조장하고 있었다. 또한 다른 관련 앱은 유튜브에서 벌거벗기다(nudify)라는 단어를 검색하면 가장 먼저 표시되도록 광고 비용을 지불하고 있다. 이로 인해 유명인뿐만 아니라 직장 동료, 동급생, 버스 안의 사람들까지도 피해를 입을 수 있다는 외신들의 우려가 커지고 있다.

추천

0

비추천

0