default_top_notch
default_setNet1_2
ad34

아이작 아시모프 '로봇 3원칙' 업데이트해야

기사승인 2017.09.10  17:22:34

공유
default_news_ad1

- '오렌 에트지오니' 박사 제안

   
▲ 영화 '오토마타'의 인공지능 로봇
알렌 인공지능연구소의 ‘오렌 에트지오니(Oren Etzioni)’ 박사는 지난해 뉴욕타임즈의 기명 칼럼과 TED 토크에서 아이작 아시모프의 로봇(혹은 인공지능) 3원칙을 업데이트할 것을 제안한 바 있다. 엘론 머스크를 비롯한 일부 오피니언 리더들은 인공지능에 대한 우려와 경고 수위를 점점 높이고 있는 상황이다.

이 같은 흐름에서 ‘로보허브’는 오래 전 나온 인공지능 원칙을 현재 시대에 맞게 어떤 식으로든 업데이트할 필요가 있다는 분석 기사를 실었다.

최근 일론 머스크(Elon Musk) 등이 이끄는 26개국 전문가 그룹은 유엔에 보낸 공개 서한에서 유엔이 자율 무기의 개발과 사용을 금지할 것을 요구했다. 서명자에는 일론 머스크와 딥마인드 공동 창립자인 무스타파 슐레이만 등 100여명의 로봇 및 인공지능 분야의 리더들이 포함됐다.

이들은 인공지능 기술이 자율 무기의 형태로 수 년내에 시스템을 구현할 수 있는 시점에 이르렀다고 경고한다. 또 국방 산업계에서는 이같은 자율 무기가 총과 핵무기에 이은 세번째 혁명이 될 것이라고 보고 있다.

미국 연방정부가 운영하는 국제방송인 '미국의 소리(Voice of America)'는 정치적인 경고를 담은 내용을 보도하기도 했다. 블라디미르 푸틴 러시아 대통령이 러시아 학생들이 모인 자리에서 러시아의 미래뿐 아니라 인류 전체의 미래가 인공지능에 달렸다고 언급했다는 것이다. 푸틴은 "인공지능 분야의 리더가 되는 사람은 세계를 통치하는 자가 될 것"이라며 "지금은 예측하기 힘든 엄청난 기회와 위협이 있다"고 발언한 것으로 알려진다.

42년에 나온 아시모프의 로봇 3원칙

아이작 아시모프(Ahimov)가 로봇 3원칙을 내세운 것은 1942년에 집필한 '런어라운드'에서였다. 2058년 시점의 정부 로봇 안내서를 염두에 두었다. 그가 제시한 것은 로봇은 사람에게 해를 끼쳐서는 안되며 행동하지 않음으로써 인간에게 해가 가도록 해서는 안된다(1원칙), 로봇은 1원칙에 상충되는 경우를 제외하고는 인간의 명령에 따라야 한다(2원칙), 로봇은 1, 2원칙에 어긋나지 않는 한 스스로 보호해야 한다(3원칙)로 로봇 철학의 바이블 역할을 해왔다.

에트지오니 박사가 업데이트한 규칙은 다음과 같다.

1. 인공지능 시스템은 운영자에게 적용되는 모든 법률 범위를 준수해야 한다.
2. 인공지능 시스템은 인간이 아니라는 것을 명확하게 공개해야 한다.
3. 인공지능 시스템은 기밀 정보의 출처로부터 명시적 승인없이 기밀 정보를 보유하거나 공개할 수 없다.

에트지오니는 이러한 업데이트를 제시하며 유엔의 로봇 안내서에 대한 논의가 SF작품에서 제시한 2058년보다 훨씬 더 일찍 시작돼야 한다고 강조한다. 이 같은 규제가 이미 성장하고 있는 글로벌 AI 비즈니스에 위협을 가해서는 안된다는 입장도 제시했다.

중국의 인공지능 선언

인공지능 분야에서 가장 눈여겨봐야 할 나라는 중국이다. 중국은 최근 인공지능과 로봇 분야 1위를 장기적인 국가 목표로 설정했다. 장기 전략 하에 로봇 산업을 발전시키고 기존 저비용 노동력에서 첨단 제조 자원으로 국가 전체를 변모시키겠다는 계획이다. 관련 산업 분야를 2020년 220억 달러, 2025년 590억 달러, 2030년까지 1500억 달러라는 구체적인 수치까지 제시했다.

장기적인 AI 전략에 따라 중국은 알파벳(구글), 애플, 아마존, IBM 및 마이크로소프트 등의 미국 시장의 리더와 경쟁할 것으로 예상된다. 중국은 이제 온라인 상거래에서부터 자율주행차, 에너지, 소비자 제품에 이르기까지 후발주자가 아닌 선두주자로 나설 태세다.

특히 취약했던 고성능 컴퓨터칩 분야나 소프트웨어를 작성하는 소프트웨어, 그리고 숙련 인력 등에서도 문제를 해결해나가고 있다. 베이징은 연구나 인센티브 및 세금 혜택 뿐만아니라 정책 지원 및 규제에서도 중요한 역할을 담당하고 있다.

조인혜 ihcho@irobotnews.com

<저작권자 © 로봇신문사 모바일 무단전재 및 재배포금지>
default_news_ad4
default_side_ad1

인기기사

ad42

포토

1 2 3
set_P1
default_side_ad3
ad38

섹션별 인기기사 및 최근기사

default_setNet2
ad36
default_bottom
#top
default_bottom_notch