과학기술정보통신부는 AI안전연구소 초대소장에 김명주 서울여자대학교 정보보호학부 교수를 임명한다고 12일 밝혔다. AI안전연구소장 임기는 임명일로부터 3년이다.
AI안전연구소는 AI 기술의 급속한 발전에 따른 위험에 대비하기 위해 설립된 ETRI 소속 신규 연구소 조직으로, AI 안전성을 평가·연구하고, 주요국 관련 기관과 협력을 전담하는 역할을 맡는다. 개소는 이달 말 목표로, 우선 총 30여명 연구인력으로 꾸리고 점차 규모를 확보해 나갈 예정이다. 사무실은 AI기업·유관기관과의 용이한 협력을 위해 판교 글로벌 R&D센터에 위치했다.
김명주 AI안전연구소 초대소장은 컴퓨터공학을 전공한 AI윤리·신뢰성 전문가 꼽힌다. 바른AI연구센터장, 국제AI윤리협회장, ‘AI윤리정책포럼’ 위원장 등을 역임하며 안전하고 책임있는 AI개발·활용 확산을 위해 노력해 왔다. 아울러, OECD GPAI(Global Partnership on AI) Expert Member로 활동하며, 지속가능한 AI발전을 위한 국제사회 논의에도 활발히 참여하고 있다.
과기정통부는 “김명주 소장은 그간 AI윤리·안전분야에서 축적한 전문성과 경험, 리더십을 바탕으로 새로 출범할 AI안전연구소를 글로벌 AI안전연구를 선도하는 기관으로 발전시켜 나가고, 국내 AI분야 산·학·연과 세계 각국의 AI안전연구소(AI Safety Institute)와 긴밀히 소통·협력해 나갈 것으로 기대된다”고 밝혔다.