default_top_notch
default_setNet1_2
ad34

[기획] ‘인간과 로봇 그리고 윤리-EU AI법 주요 내용과 시사점‘

기사승인 2024.10.28  16:02:42

공유
default_news_ad1

- ‘2024년 제2차 로봇산업 세미나‘에서 박상현 법무법인 율촌 변호사 발표

   
 

로봇신문은 한국로봇산업진흥원과 공동으로 ‘2024년 제2차 로봇산업 세미나’(온라인)를 개최했다. 이번 세미나에선 박상현 법무법인 율촌 변호사가 ‘인간과 로봇, 그리고 윤리-EU AI법 주요 내용과 시사점‘을 주제로 발표했다.

이번 세미나 내용은 로봇신문 유튜브 채널인 로봇플러스TV(https://youtu.be/_ORP1fs7F8g)를 통해 공개됐다. 박상현 법무법인 율촌 변호사의 강연 내용을 간추려 소개한다.

◆‘인간과 로봇 그리고 윤리-EU AI법 주요 내용과 시사점‘(박상현 법무법인 율촌 변호사)

   
 

현재 국내에선 ’지능형 로봇 개발 및 보급 촉진법‘에서 인공지능 로봇에 대해 정의하고 있으며, 로봇산업계를 중심으로 지능형 로봇 윤리헌장이 준비되고 있다. EU에선 실효성 있는 EU AI법을 제정, 올해 8월 1일 발효됐다. 이 법은 총 13장(113개 조항) 및 13개의 부속서로 구성돼 있는데, 세부 사항에 관한 구체적인 발효 시점은 조항별로 따로 규정하고 있다.

EU AI법은 ’위험 기반 규제 체계‘를 도입하고 있다. 이는 인공지능 위험도에 따라 단계별로 구분해 의무를 규정하고 있음을 의미한다. 인공지능 위험도는 ’금지된 인공지능‘, ’고위험 인공지능‘, ’특정한 인공지능‘, ’최소 위험 인공지능‘, '범용 인공지능 모델’ 등 피라미드 구조를 취하고 있다. 

보다 구체적으로 살펴보면, '금지된 인공지능'은 의사결정 왜곡, 특정 개인 및 집단의 취약점 악용, 안면 인식 DB, 실시간 원격 생체정보 인식 등을 포함하고 있다.

'고위험 인공지능'은 제품 출시전 제3자로부터 제품 안전성과 관련해 적합성 평가를 받아야하는 인공지능 시스템을 의미한다. 건강, 안전, 기본권 등과 관련해 사용되는 8가지 목적의 인공지능 시스템도 포함된다. 이와 관련해 EU AI법은 '투명성 의무'를 부과하는 특정 유형의 인공지능도 제시하고 있다. 예를 들어 인간과 직접 상호작용하는 인공지능의 경우 상호작용의 대상이 인공지능이라는 사실을 공급자가 알리도록 규정하고 있다. 시청각 이미지 등을 합성한 콘텐츠를 생성하는 인공지능(딥페이크 관련) 역시 인공지능이 생성한 결과물이라는 점을 알려야 한다.

'범용 AI 모델'은 별도의 규율체계를 두고 있다. 범용 AI 모델의 공급자는 범용 AI 모델을 AI 시스템에 통합하려는 하방 사업자에 대한 정보를 제공하고, EU 저작권법 준수 정책 마련 등 의무를 규정하고 있다. EU AI법은 공중보건, 안전, 공공안전, 기본권 등 시스템적 위험이 있는 범용 AI 모델에 대해선 시스템 위험에 대해 파악하고 관리해야할 의무를 규정하고 있다.

EU AI법은 로봇윤리라는 관점에서 몇 가지 시사점을 준다. 우선 ‘인공지능 로봇’에는 고유한 위험이 있다는 점이다. 인공지능 시스템이 단순한 절차적 보조 역할에 그치더라도, 로봇과 인공지능이 결합할 경우 물리적인 위험도에 관한 고려가 필요하다는 것이다. 인공지능이 로봇과 결합함으로써 발생하는 ‘물리적 상호작용’의 종류에 따른 분류 필요성도 제기된다. 

인공지능 로봇은 장치적 특성(생김새, 크기, 무게, 속도, 동력원 등), 작동되는 환경 및 공간의 특성, 이용자와의 물리적 밀접성 등 요인을 반영해 AI 시스템에 대한 위험 기반 규제가 필요할 수도  있다. 또한 인공지능 로봇은 인간과의 상호작용이 물리적인 실체를 가지고 이뤄지기 때문에 단순히 인공지능과의 상호작용에 대한 '투명성 의무'를 넘어 ‘인간과 로봇의 경계구분’이라는 윤리적인 문제가 제기될 가능성이 있다. 예를 들어 유아/고령자 돌봄 로봇 또는 정서 지원 로봇의 경우 AI 생성물에 대한 투명성 의무 준수 측면 외에, 로봇이 인간의 역할을 어디까지 대체하도록 할 것인지에 대한 기준이 필요해 보인다.

우리나라는 현재 인공지능과 관련해 11개의 법안이 발의되고 있다. EU AI법과 비교해 우리나라 AI 법안은 고위험 인공지능에 중점을 두고 있다. 또한 사업자에 대한 제재보다는 인공지능 산업 진흥에 초점을 맞추고 있다. 향후 안전성 확보 조치, 인증 제도 등 규제가 강화될 가능성이 있다.

로봇신문사 robot@irobotnews.com

<저작권자 © 로봇신문사 모바일 무단전재 및 재배포금지>
default_news_ad4
ad49
default_side_ad1
ad42
ad62
ad63
ad65
ad44
ad86
ad90
ad105
ad110

인기기사

ad56
ad80
ad133
ad58

포토

1 2 3
set_P1
ad60
ad74
default_main_ad1
default_setNet1_1

섹션별 인기기사 및 최근기사

default_setNet2
ad36
default_bottom
#top
default_bottom_notch