화재 사고에 대비한 AI로봇 보안 규제 강화
초거대 AI 로봇 혁명
구글과 오픈AI 등을 중심으로 대규모언어모델(LLM)을 로봇에 접목시키는 시도가 이어지면서 AI로봇 기술 진화 속도에 맞춘 규제에 대한 논의도 본격화할 것으로 보인다. 지난해 11월 챗GPT 등장과 함께 생성형AI 부작용이 뜨거운 감자로 부상했듯이 AI로봇 분야에서 상용화에 가까워질수록 위험성에 대한 논란이 일 가능성이 높다는 분석이다.
루카 칼론 MIT 교수는 "(로봇에 접목되는) AI알고리즘의 실패는 사람의 생명을 위험에 빠뜨릴 수 있다"며 "AI알고리즘이 로봇에 어떻게 구현돼야 하는지를 살펴보고 안전을 보장할 수 있는 방법을 반드시 설계해야 한다"고 강조했다.
생성형AI 로봇을 통해 AI의 영향력이 온라인 공간을 넘어 물리적 세계로 확장될 수 있는 만큼 위험성을 최소화해야 한다는 주장이 힘이 얻고 있다. 물리적 보안, 사이버 보안, 국가 보안 등 중요한 형태의 AI로봇에 대해선 라이선스가 필요하다는 의견도 나온다.
김주형 일리노이대 교수는 "로봇에 지능이 생겨서 인간을 해치는 것보다 이용자(사람)의 의도에 의해서 (로봇이) 공격성을 띨 수 있다는 점이 더 큰 위험이고 이와 관련해서 규제가 이뤄질 것으로 보인다"고 말했다.
관련 업계에서도 자체적으로 새 기술에 대한 위험 관리에 나선 상황이다. 지난해 10월 세계적인 로봇 기업들이 로봇을 무기화하지 않겠다고 선언했다. 현대자동차와 같은 기업들은 AI 로봇의 규제에 대한 논의에 참여하고 있으며, 안전한 AI 로봇 기술의 개발을 위해 노력하고 있다.
초거대 AI 로봇의 혁명이 가속화되면서 그에 따른 규제 필요성에 대한 논의가 진행되고 있다. 안전한 AI 로봇 기술의 개발과 관련 규제 정책의 수립은 현재와 미래의 인간과 기술의 상호작용을 적절하게 조화시키기 위해 중요한 과제로 지목되고 있다.
구글과 오픈AI 등을 중심으로 대규모언어모델(LLM)을 로봇에 접목시키는 시도가 이어지면서 AI로봇 기술 진화 속도에 맞춘 규제에 대한 논의도 본격화할 것으로 보인다. 지난해 11월 챗GPT 등장과 함께 생성형AI 부작용이 뜨거운 감자로 부상했듯이 AI로봇 분야에서 상용화에 가까워질수록 위험성에 대한 논란이 일 가능성이 높다는 분석이다.
루카 칼론 MIT 교수는 "(로봇에 접목되는) AI알고리즘의 실패는 사람의 생명을 위험에 빠뜨릴 수 있다"며 "AI알고리즘이 로봇에 어떻게 구현돼야 하는지를 살펴보고 안전을 보장할 수 있는 방법을 반드시 설계해야 한다"고 강조했다.
생성형AI 로봇을 통해 AI의 영향력이 온라인 공간을 넘어 물리적 세계로 확장될 수 있는 만큼 위험성을 최소화해야 한다는 주장이 힘이 얻고 있다. 물리적 보안, 사이버 보안, 국가 보안 등 중요한 형태의 AI로봇에 대해선 라이선스가 필요하다는 의견도 나온다.
김주형 일리노이대 교수는 "로봇에 지능이 생겨서 인간을 해치는 것보다 이용자(사람)의 의도에 의해서 (로봇이) 공격성을 띨 수 있다는 점이 더 큰 위험이고 이와 관련해서 규제가 이뤄질 것으로 보인다"고 말했다.
관련 업계에서도 자체적으로 새 기술에 대한 위험 관리에 나선 상황이다. 지난해 10월 세계적인 로봇 기업들이 로봇을 무기화하지 않겠다고 선언했다. 현대자동차와 같은 기업들은 AI 로봇의 규제에 대한 논의에 참여하고 있으며, 안전한 AI 로봇 기술의 개발을 위해 노력하고 있다.
초거대 AI 로봇의 혁명이 가속화되면서 그에 따른 규제 필요성에 대한 논의가 진행되고 있다. 안전한 AI 로봇 기술의 개발과 관련 규제 정책의 수립은 현재와 미래의 인간과 기술의 상호작용을 적절하게 조화시키기 위해 중요한 과제로 지목되고 있다.
추천
0
비추천0
- 이전글로켓군 지휘부 인사 대거 교체되며 시진핑 주석 지도력 타격 예상 23.08.01
- 다음글한국, 탐욕 인플레이션 없었다 23.08.01
신영*
코리아 핀테크 위크 2023 멋지네요
박성*
좋은 정보 담아갑니다.
홍한*
이런 소식 정말 좋아요.
등록된 댓글이 없습니다.
