• 목록

• 페이스북 공유
• 트위터 공유

AI 챗봇 이루다 논란으로 AI 신뢰성 문제 제기

올해 초에 인공지능(AI) 챗봇 이루다가 논란을 일으키며 업계가 뜨겁게 달궜다. 이 사건으로 인해 사회 각계각층에서 AI의 신뢰성에 대한 우려가 제기되었다. 특히 성 및 인종차별 관련 혐오발언 등으로 인해 여론을 통해 걷잡을 수 없이 파급되면서 AI 윤리 문제에 대한 이야기도 나오고 있다.

2016년 3월, MS에서 출시한 챗봇 테이(Tay)도 출시 16시간 만에 운영을 중단한 적이 있다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성차별 발언을 되풀이해 학습시켰고, 그 결과 실제로 테이가 혐오 발언을 쏟아냈다.

또한, AI로 이미지나 음성·영상까지 정교하게 합성해 만드는 딥페이크 기술이 발전하면서 양산된 가짜 뉴스들이 민주주의의 근간인 진실을 위협할 수 있다는 경고가 있다. 국내에서는 지인능욕이라는 이름으로 주변인들을 음란물 대상으로 만드는 딥페이크 악용 사례들이 오랫동안 등장해왔다. 올해 4월부터 관련법이 개정되어 이러한 행위들을 불법화했지만, 트위터나 페이스북에서는 여전히 대행서비스가 활발히 이루어지고 있다. AI의 악용으로 인해 AI 윤리 문제는 누구나 딥페이크 기술을 사용할 수 있게 되면서 악용 사례들이 음란물의 범위를 넘어 사회의 신뢰 근간을 흔드는 쪽으로 확대되고 있다는 점이다.

인공지능 분야 석학인 토비 윌시(Toby Walsh) 호주 뉴사우스웨일스대 교수는 "세상은 딥페이크를 통해 누구나 진실을 조작할 수 있는 곳으로 향하고 있는데, 지켜보고만 있어야 하는가"라고 물었다. 이러한 상황에서 우리는 AI의 발전을 지켜보는 것뿐만 아니라 AI 윤리 문제에 대해 적극적인 대응이 필요하다.

추천

0

비추천

0