이해민 의원(조국혁신당)이 인공지능(AI) 기술의 혁신과 안전한 활용을 위한 ‘인공지능산업 진흥 및 인공지능 이용 등에 관한 법률’(이하 인공지능 신호등법)을 대표발의했다.
이번 법안의 가장 중요한 특징은 AI를 단순한 기술적 혁신이 아닌, 사회적 영향력을 가진 시스템으로 정의한 점이다.
고영향 인공지능 규정, 과태료 조항도
특히 ‘고영향 인공지능’을 법적 정의로 규정하여, 사람의 생명, 신체, 건강과 안전, 기본권의 보호, 국가안보 및 공공복리 등에 중대한 영향을 미칠 수 있는 AI 시스템을 별도로 관리할 수 있도록 했다. 법안은 ‘고영향 인공지능’을 범죄 예방, 수사, 군사 및 정보기관 활용, 감정 인식, 사람의 생명과 안전에 위협을 미칠 수 있는 AI 시스템으로 정의하고, 이러한 시스템이 사람의 기본권에 미치는 영향을 사전에 예방하도록 규제하는 것을 목표로 한다.
예를 들어, 범죄 예방, 수사, 기소, 형집행, 첩보 및 무기 운용, 사람의 감정 인식, 생명과 안전에 위협을 주는 AI 시스템, 어린이 제품 안전 관리, 출입국 및 이민 관리, 채용 및 인사 결정, 사회보험, 공공부조, 의료기기, 교통 안전, 신용평가, 보험, 법원 및 행정 심판에 사용되는 AI가 포함된다.
인공지능 사업자는 해당 AI가 고영향 인공지능에 해당하는지 과학기술정보통신부장관에게 확인을 요청할 수 있으며, 장관은 고영향 인공지능으로 인정되면 안전성 및 신뢰성 검증을 요구할 수 있다.
또한, 고영향 인공지능 심의위원회가 이를 전문적으로 심의하고 의결하며, 인공지능 제품이나 서비스에 오류나 결함이 있어 사람의 건강, 신체, 생명에 위험을 초래할 우려가 있을 경우 즉시 중단하거나 회수해야 한다. 이를 위반하면 최대 5000만 원의 과태료가 부과된다.
영향받는자 개념 도입
법안의 또 다른 주요 특징은 AI의 사용과 개발에 의해 직접적 또는 간접적으로 영향을 받는 ‘영향받는자’ 개념을 도입한 점이다. 이는 기존의 사용자 중심 규제를 넘어, AI 기술이 사회 전반에 미치는 파급 효과를 법적으로 인정하고 그에 따른 제도적 장치를 마련한 것이다.
‘영향받는자’란 AI 시스템이나 기술로 인해 자신의 생명, 신체, 기본권 등이 중대한 영향을 받을 수 있는 사람을 뜻하며, 이를 통해 AI 기술의 사용자가 아닌 사회적 약자들도 법적으로 보호받을 수 있게 된다.
이해민 의원은 “AI 기술이 발전하면서 그 영향력도 커지고 있다. 하지만 AI가 사회에 미치는 영향은 그저 기술적 변화에 그치지 않으며, 많은 사람들의 삶에 직간접적으로 영향을 미친다”며 “이번 법안은 기술 혁신을 추구하면서도 사회적 약자를 보호할 수 있는 제도적 장치를 마련하는 중요한 법적 발판이 될 것”이라고 강조했다.
신기술 실증특례와 규제특례, AI 산업 지원
이 법안은 AI 기술의 발전을 촉진하는 동시에, 신기술 검증을 위한 실증특례와 임시허가 제도를 도입하여 새로운 AI 기술과 서비스가 신속하게 시장에 진입할 수 있도록 지원할 예정이다.
이해민 의원은 이번 법안을 ‘AI 신호등법’이라고 명명하며, 법안이 AI 기술의 혁신을 촉진하는 한편, 그 과정에서 발생할 수 있는 사회적 위험을 관리하는 ‘신호등’ 역할을 할 것이라고 말했다. 그는 “현재 AI 산업은 신호등 없는 교차로처럼 빠르게 발전하고 있지만, 그 속도에 맞춰 안전하고 책임감 있는 관리 체계를 구축하는 것이 무엇보다 중요하다”고 설명했다.