• 목록

• 페이스북 공유
• 트위터 공유

LLM(초거대 언어모델) 연구가 발전하면서 챗GPT 등 생성형 AI 작성 여부를 판별할 수 있는 워터마크를 텍스트 콘텐츠에도 적용할 수 있을 전망이다.

2일 업계에 따르면 미국의 7개 빅테크 기업인 구글, MS(마이크로소프트), 메타(구 페이스북), 아마존, 오픈AI 등이 지난달 21일 생성형 AI(인공지능)가 만든 콘텐츠에 자발적으로 워터마크를 삽입하기로 결정했다. 이는 미 국방성(펜타곤)이 공격받는 이미지 등 생성형 AI로 만든 가짜뉴스로 인해 미 증시에 큰 충격을 주는 사건이 발생하면서 정부의 규제 압박이 강해지자, 기업들이 자발적으로 안전조치를 취하기 위함이다.

오픈AI 등 기업들은 생성형 AI가 텍스트를 작성할 때 특정 단어에 가중치를 주거나 문장에 패턴을 넣는 방식으로 워터마크를 삽입하는 기술을 개발 중이다. 이 방법은 메릴랜드대의 톰 골드스타인 박사 등 연구진이 지난 2월에 처음 발표한 논문을 통해 공개되었다. 메릴랜드대 연구진은 특별단어 목록을 만들고, 사람이 사용할 가능성이 높은 단어보다 목록 내에 있는 단어를 더 많이 사용하도록 유도함으로써 워터마크를 적용할 수 있다고 설명했다.

생성형 AI는 사람이 사용할 가능성이 높은 단어를 선택하고 문장을 작성한다. 방대한 학습 데이터를 통해 어떤 상황에서 어떤 단어가 어떤 확률로 사용되는지를 파악하기 때문에 가능한 것이다. 예를 들어, 미국의 테니스 선수 세리나 윌리엄스에 대한 문장을 작성할 때, LLM 학습 결과 사람들은 Serena Williams 다음에 21%의 확률로 the, 16%의 확률로 who, 6%의 확률로 a를 사용했던 것으로 나타났다.

이러한 연구를 바탕으로 생성형 AI가 작성한 콘텐츠에 워터마크를 적용하는 기술이 발전될 것으로 전망된다. 이는 생성된 텍스트의 신뢰성을 높이고, 가짜정보의 확산을 방지하기 위한 한 방안으로서 많은 관심을 받고 있다.

추천

0

비추천

0