• 목록

• 페이스북 공유
• 트위터 공유

생성형 AI의 안전성과 신뢰성 문제는 국가 안보에 대한 위협이 될 수 있다는 주장이 나와 전 세계적인 관심을 모으고 있다. 최근 생성형 AI의 활용이 확대되면서, 잘못된 영향이 정책 결정에 영향을 미칠 경우, 사이버 안보뿐만 아니라 물리적 안보에 대한 위협으로 이어질 수 있다고 지적되고 있다. 이에 국내외 전문가들은 이러한 문제들을 해결하기 위해 전 세계적으로 AI를 평가할 수 있는 틀을 만들어야 한다고 주장하고 있다.

영국 앨런튜링 연구소의 알디 얀예바 수석 연구원은 한-영 공동 인공지능 안전·신뢰성 세미나에서 "생성형 AI의 중요성이 커짐에 따라 외교·안보 관계자들의 AI 활용은 증가할 것"이라며, "편향이나 환각 문제가 해결되지 않은 AI에 의존하게 되면 특정 군수 물자의 재고를 잘못 계산하거나 불필요한 군사적 행동을 유발할 수 있어 전 세계적으로 군사적 긴장감이 높아질 수 있다"고 경고했다.

얀예바 연구원은 "생성형 AI는 가짜뉴스 등을 만들어내며 특정 국가의 여론 형성에 직·간접적으로 영향을 미칠 수 있다"며 "생성형 AI를 활용하면 정치적 허위 정보를 퍼뜨리는 등 악의적인 공격과 위협을 한층 더 빠르게 진행할 수 있다"고 지적했다. 특히 내년에는 전 세계적으로 64건의 선거가 예정되어 있는데, AI를 이용해 투표소 위치를 가짜뉴스로 옮겼다고 퍼뜨리거나 여론 형성에 영향을 미치는 경우 큰 문제가 발생할 수 있다고 그는 밝혔다.

그러나 이러한 가짜뉴스는 의도한 것이 아니라, AI 자체의 문제로 인해 발생한 것일 수 있다. 학습 데이터의 편향이나 AI 모델 개발자가 선택한 설정 등도 영향을 미칠 수 있다. 따라서 이러한 문제를 예방하기 위해 국제적인 협력을 통해 AI를 평가하고 규제할 수 있는 기준과 틀을 만들어야 한다는 전문가들의 입장이다. 이를 통해 생성형 AI의 안전성과 신뢰성을 높이고 국가 안보를 보장할 수 있을 것으로 기대된다.

추천

0

비추천

0