• List

• Facebook
• X

마이크로소프트, 증오와 폭력을 감지하는 AI 보안 솔루션 출시

마이크로소프트는 18일 애저 AI 콘텐츠 세이프티를 출시했다고 밝혔다. 이 솔루션은 증오나 폭력과 같은 잠재적으로 유해한 콘텐츠를 감지하고, 그 심각성을 점수로 표시하는 기능을 제공한다.

이 솔루션은 애저 AI 플랫폼에서 제공되며, 고급 언어와 비전 모델을 사용하여 증오와 폭력과 같은 유해한 콘텐츠를 식별할 수 있다. 이를 통해 기업과 조직은 내부 정책을 기반으로 유해 콘텐츠를 차단하거나 필요에 따라 서비스를 맞춤화할 수 있다.

또한, 애저 AI 콘텐츠 세이프티는 고객의 사용 목적에 맞춰 세분화된 검수 기능을 제공한다. 예를 들어 게임 플랫폼이 학생 교육용 콘텐츠를 제작할 경우, 폭력성과 유해성에 대한 언어 표현 수준을 조절할 수 있다.

글로벌 에너지 기업 쉘의 직원들은 자체 개발한 AI 플랫폼 쉘 E를 활용해 애플리케이션을 구축하고 배포하고 있다. 이 플랫폼은 오픈 소스 및 기타 LLM(거대언어모델) 기술을 기반으로 다양한 콘텐츠를 생성하는데 사용된다.

마이크로소프트의 애저 AI 콘텐츠 세이프티는 안전한 온라인 환경과 콘텐츠를 만들기 위해 책임있는 AI 생태계를 구축하는 데 도움을 주는 중요한 도구로 평가받고 있다. 이 솔루션을 통해 유해 콘텐츠의 보호와 사용자의 안전이 더욱 강화될 것으로 기대된다.

Like

0

Upvote

0