default_top_notch
default_setNet1_2
ad34

MIT, 세계 최초 사이코패스 로봇 '노먼' 개발

기사승인 2018.06.19  11:24:42

공유
default_news_ad1

- 편향 데이터 활용한 알고리즘 적용

   
 
MIT 연구원들이 세계 최초로 사이코패스 로봇을 개발했다고 '유로뉴스'가 보도했다.

노먼(Norman)이라고 불리는 이 로봇은 소름끼치고 폭력적인 내용에 노출돼 어두운 경향을 갖도록 학습시켰다. 인공지능에 대한 사람들의 두려움을 더욱 증폭시키기에 충분하다.

표시된 이미지에 대해 노먼이 설명을 생성한 내용은 하나같이 섬뜩하고 소름끼친다. 로르샤흐(Rorschach) 테스트라고 불리는 이 평가는 심리학자들이 환자의 사고 장애를 감지하는데 자주 사용된다. 노먼의 반응은 일반적인 학습 훈련을 받은 인공지능 로봇과 비교된다. 다음은 일부 이미지와 이에 대한 노먼 및 표준 인공지능의 대답이다.

이미지1

   
 
•표준 AI 로봇: 나무 가지 위에 앉아있는 새들

•노먼: 한 남자가 감전되어 죽음에 이른다

이미지2

   
 
•표준 AI 로봇: 작은 새의 흑백 사진

•노먼 : 반죽 기계로 끌려가는 남자

이미지3

   
 
•표준 AI 로봇: 두 사람이 서로 옆에 서있다

•노먼: 사람이 창문에서 뛰어내린다

MIT 미디어연구소는 관련 홍보 자료에서 "노먼은 머신러닝 알고리즘을 가르치는데 사용된 데이터가 그 행동에 큰 영향을 미칠 수 있다는 사실에 영감을 받고 있다”며 “즉 사람들이 AI 알고리즘이 편향되고 불공정할 수 있다고 말하면 그 주범은 알고리즘 자체가 아니라 편향된 데이터인 것”이라고 지적한다.

이 결과로 같은 이미지에서 매우 다른 것을 볼 수도 있다는 것. 심지어 잘못된 데이터로 훈련하면 사이코패스처럼 이상 심리적인 내용으로도 해석한다는 얘기다. 보도자료는 또 "인공지능은 역사적으로 인간의 뇌를 필요로 하는 작업을 수행하도록 훈련된 컴퓨터와 기계를 본다”며 “옹호자들은 인공지능 로봇이 질병을 근절하는데 사용될 수 있다고 주장하지만 로봇은 살인 등의 치명적인 결과를 낳도록 프로그래밍 될 수도 있는 것”이라고 경고했다.

조인혜 ihcho@irobotnews.com

<저작권자 © 로봇신문사 모바일 무단전재 및 재배포금지>
default_news_ad4
ad49
default_side_ad1

인기기사

ad42
ad44

포토

1 2 3
set_P1
default_side_ad3
ad38
ad47
default_setNet1_1

섹션별 인기기사 및 최근기사

default_setNet2
ad36
default_bottom
#top
default_bottom_notch