(서울=연합뉴스) 김윤구 기자 = 인공지능(AI)이 인류 생존을 위협할 수 있다는 공포가 일고 있다. 유럽연합에서는 필요할 때 로봇의 기능을 멈추는 '킬 스위치'(kill switch)가 필요하다는 결의안이 채택됐다.

세계경제포럼(WEF)은 연례 글로벌 리스크 보고서에서 인공지능과 로봇공학 기술이 인간의 통제를 벗어날 위험이 있다고 지적했다고 파이낸셜타임스가 12일(현지시간) 전했다.

보고서는 "AI 시스템의 의사결정 방식에 대해 완전히 이해하지 못한 채 이 시스템에 전적으로 의존하는 것의 위험성"을 경고했다.

보고서는 특히 군사용 로봇 개발 경쟁이 일어나고 있다고 지적한 데 이어 "'초지능'(superintelligence)이 인류의 생존을 위협할 수 있다"고 우려했다.

마이크로소프트의 창업자 빌 게이츠는 지난해 "나도 초지능에 대해 걱정하는 쪽"이라면서 "먼저 기계는 우리의 일을 많이 대신하고 초지능은 아닐 것이다. 이는 우리가 잘 통제한다면 긍정적이다. 하지만 수십 년이 더 지나면 인공지능은 우려하기에 충분할 만큼 강해질 것"이라고 말했다.

WEF 보고서는 AI가 많은 분야의 생산성과 의사결정을 향상할 가능성이 있다면서도 충분한 통제가 이뤄지지 않을 우려를 부각했다.

보고서의 저자 가운데 한 사람인 존 더직 마쉬 글로벌 리스크&스페셜티스 사장은 "인공지능은 어떻게 해서든 결정을 내린다. 프로그램되는 대신 패턴 인식에서 학습할 수 있을 것"이라고 말했다.

이런 형태의 머신러닝의 위험성은 지난해 마이크로소프트의 '챗봇'(chatbot)이 온라인에서 배운 것을 바탕으로 인종차별적 메시지를 내보낸 사건으로 조명받았었다.

인공지능과 로봇을 통제하려는 움직임은 가시화하고 있다.

CNN머니에 따르면 EU 의원들은 로봇을 설계할 때 비상상황에서 로봇의 작동을 멈출 수 있는 스위치를 포함해야 한다는 권고를 포함한 결의안을 채택했다.

결의안은 '킬 스위치'와 함께 로봇의 소프트웨어가 설계대로 작동하지 않으면 다시 프로그램할 수 있도록 해야 한다고 덧붙였다.

구글의 인공지능 부문인 딥마인드와 옥스퍼드대 과학자들도 AI 킬 스위치를 개발 중이다. 이들은 지난해 논문에서 "인간 운영자가 큰 빨간 버튼을 눌러 로봇이 해로운 행동을 하지 못하게 하는 것이 필요하다"고 썼다.

이날 EU 의회 법사위원회에서 통과된 결의안은 로봇에 대한 EU 차원의 규정 마련을 촉구했다.

결의안은 로봇 설계나 생산, 운영에서 아이작 아시모프가 소설에서 쓴 3가지 '로봇 원칙'을 따라야 한다고 했다. 아시모프의 법칙은 로봇이 절대로 인간을 해치거나 죽여서는 안 되며 항상 창조자의 명령에 복종해야 한다고 규정했다. 또 인간에게 피해가 가지 않는 한 로봇은 자신을 스스로 보호해야 한다.

의회는 또 정교한 자율 로봇의 법적 지위를 '전자 인간'(electronic persons)로 정하도록 할 필요가 있다고 지적했다.

의회는 EU 안에 로봇과 인공지능의 기술, 윤리 등에 대한 전문성을 갖춘 기구를 신설할 것을 제안했다.

이번 결의안에 대한 본회의 투표는 다음 달 열린다.

한편 비즈니스 소셜미디어 링크트인과 전자상거래업체 이베이의 창업자들인 레이드 호프먼과 피에르 오미댜르는 AI로부터 사회를 보호하는 펀드에 합쳐서 2천만달러를 기부했다고 가디언이 보도했다.

링크트인 창업자 호프먼은 "AI가 사회에 도움이 되고 피해는 최소로 줄이도록 하는 것이 긴급하다"면서 기부 이유를 밝혔다.

kimyg@yna.co.kr