AI 챗GPT, 정치적으로 진보·좌익 성향을 나타낸다는 연구 결과
인공지능 AI의 대표적인 생성형 모델인 챗GPT가 정치적인 진보·좌익 성향을 나타낸다는 연구 결과가 나왔습니다. 이스트앵글리아대의 연구진은 챗GPT에 정치적인 신념에 대한 설문조사를 실시한 결과, 미국의 민주당, 브라질의 룰라, 영국의 노동당에 대한 심각하고 체계적인 정치적 편향이 확인되었습니다.
챗GPT를 포함한 다양한 대형언어모델(Large Language Model, LLM)은 수많은 온라인 데이터를 학습하는데 사용됩니다. 그러나 개발사들은 어떤 데이터가 모델에 포함되는지 정확하게 확인하지 않고, LLM 모델도 인터넷에 반영된 인간의 편견을 수용한다는 점을 워싱턴포스트는 지적하고 있습니다.
챗GPT는 초기부터 우파 운동단체들의 비판을 받아왔습니다. 예를 들어, 챗GPT가 트랜스젠더 권리를 지지하는 발언을 한다는 주장이 있었고, 지난 2월에는 챗GPT가 미국 대통령 조 바이든을 찬양하는 시를 쓴다는 주장이 제기되기도 했습니다. 테드 크루즈 상원의원도 챗GPT의 개발사인 오픈AI를 비난한 바 있습니다.
이와 관련하여 카네기멜론대학의 연구원은 LLM의 편견을 연구한 결과, 사회의 양극화가 실제 LLM 모델에도 반영되고 있다고 밝혔습니다. 더 많은 사람들이 챗봇을 사용하게 되면서 인터넷에 증가한 정보들이 챗봇의 답변에 피드백되면서 답변의 양극화가 증가할 수 있다는 것입니다.
또한, 이 연구에서는 14개의 LLM 모델에 기후변화, 이민, 동성결혼 등과 같은 정치적인 질문을 테스트한 결과를 소개하고 있습니다. 이 결과에 따르면, 구글이 개발한 BERT는 보수성향을 가지고 있으며, 페이스북의 라마는 권위주의적이고 우파적인 성향을 보여줍니다. 반면에, 오픈AI의 GPT-4는 경제적이고 사회적으로 좀 더 자유주의적인 경향을 나타내었습니다.
챗GPT를 포함한 다양한 대형언어모델(Large Language Model, LLM)은 수많은 온라인 데이터를 학습하는데 사용됩니다. 그러나 개발사들은 어떤 데이터가 모델에 포함되는지 정확하게 확인하지 않고, LLM 모델도 인터넷에 반영된 인간의 편견을 수용한다는 점을 워싱턴포스트는 지적하고 있습니다.
챗GPT는 초기부터 우파 운동단체들의 비판을 받아왔습니다. 예를 들어, 챗GPT가 트랜스젠더 권리를 지지하는 발언을 한다는 주장이 있었고, 지난 2월에는 챗GPT가 미국 대통령 조 바이든을 찬양하는 시를 쓴다는 주장이 제기되기도 했습니다. 테드 크루즈 상원의원도 챗GPT의 개발사인 오픈AI를 비난한 바 있습니다.
이와 관련하여 카네기멜론대학의 연구원은 LLM의 편견을 연구한 결과, 사회의 양극화가 실제 LLM 모델에도 반영되고 있다고 밝혔습니다. 더 많은 사람들이 챗봇을 사용하게 되면서 인터넷에 증가한 정보들이 챗봇의 답변에 피드백되면서 답변의 양극화가 증가할 수 있다는 것입니다.
또한, 이 연구에서는 14개의 LLM 모델에 기후변화, 이민, 동성결혼 등과 같은 정치적인 질문을 테스트한 결과를 소개하고 있습니다. 이 결과에 따르면, 구글이 개발한 BERT는 보수성향을 가지고 있으며, 페이스북의 라마는 권위주의적이고 우파적인 성향을 보여줍니다. 반면에, 오픈AI의 GPT-4는 경제적이고 사회적으로 좀 더 자유주의적인 경향을 나타내었습니다.
추천
0
비추천0
- 이전글셀트리온그룹, 상장 3사 합병으로 바이오 기업 도약 목표 23.08.17
- 다음글중국, 미국의 대중국 첨단산업 투자 규제에 대응 조치 예고 23.08.17
김샛*
정말이지 이런뉴스는 올리지 말아주세요.
김한*
좋은 뉴스 담아갑니다.
박성*
좋은 정보 담아갑니다.
등록된 댓글이 없습니다.
