• 목록

• 페이스북 공유
• 트위터 공유

AI 생성물 워터마크 도입, 부작용 완화를 위한 안전장치

세계적으로 생성형 인공지능(AI)에 의한 사진 및 영상 등이 사회적 부작용을 일으키는 문제가 커져가면서, 각국 정부와 빅테크 기업들은 AI 생성물을 구분할 수 있는 "워터마크" 도입을 위한 움직임을 가속화하고 있다. 한국 정부 역시 워터마크의 법제화를 검토 중에 있다. 이는 백신과 바이러스의 관계에서도 볼 수 있는 것과 같이 AI 생성물을 둘러싼 "창과 방패의 싸움"의 시작으로 분석될 수 있다.

12일 정보기술(IT)업계의 소식에 따르면 과학기술정보통신부는 이달부터 AI 생성물에 대한 표시 도입 등 AI의 위험성을 완화하기 위한 방안을 검토할 계획이다. 이와 함께 국회와 협력하여 법제화 방안을 논의하고, 사업자에게는 이용자의 보호를 위해 가시적인 워터마크 도입을 권고하고 나섰다. 최근 영국에서 열린 주요 28개국의 "AI 정상회의"에서도 AI의 부작용을 방지하기 위해 워터마크 도입 등에 대한 논의가 진행되었다.

정부가 권고한 가시적인 워터마크란 사람이 눈으로 확인할 수 있는 형태로 디지털 콘텐츠에 삽입되는 것을 의미한다. 이전부터 이미지 도용 방지를 위해 저작권이 있는 이미지 위에 회사 이름이나 로고를 삽입하는 방식의 워터마크가 사용되어왔다. 예를 들어, 오픈AI의 "달리(Dall-e)"나 SK텔레콤의 "에이닷 포토"에서 이미지를 생성할 때 AI가 제작했다는 사실을 알려주는 문구나 서비스 로고 등을 한쪽 구석에 볼 수 있다.

이러한 방식은 구현하기 쉽고 이용자들도 AI 생성 여부를 쉽게 확인할 수 있다. 하지만 이를 무력화하는 것도 간단하다. 구석에 로고가 있다면 이미지 일부를 잘라내거나, 화면 위에 이미지를 덮어 씌워도 간단한 프로그램으로 삭제할 수 있다. 이는 "부작용을 막기 위한 최소한의 안전장치"로서의 역할을 한다. 따라서 워터마크 도입은 AI 생성물의 부작용을 완전히 막는 해결책은 아니지만, AI 생성물을 구분하고 부작용을 최소화하기 위한 한 가지 방법으로서 활용될 수 있다.

AI의 발전과 함께 AI 생성물에 대한 사회적인 문제도 증가하고 있다. 이에 대응하기 위해 정부와 기업들이 워터마크 도입 등의 안전장치를 검토하는 것은 긍정적인 시도라고 평가할 수 있다. 하지만 이러한 대응책 또한 계속해서 발전하고 강화되어야 할 필요가 있으며, 미래의 AI 생성물에 대한 효과적인 관리 방안을 마련하는 것이 중요하다.

추천

0

비추천

0