인공지능(AI) 세계 석학인 요슈아 벤지오 캐나다 몬트리올대 교수가 “AI 안전을 위해서는 정책 입안자들은 물론 대중도 AI의 현재 상태와 미래에 대해 정확히 이해하고 있어야 한다”고 말했다.
벤지오 교수는 지난 4일부터 이틀간 열린 ‘삼성 AI 포럼 2024’에서 이같이 말했다고 삼성전자가 5일 전했다.
벤지오 교수는 딥러닝 분야의 창시자 중 한 명으로, AI의 부작용을 경고하는 신중론자로 꼽힌다. 그는 ‘AI 안전을 위한 베이지안 오라클’이라는 주제의 기조 강연에서 보다 안전하고 신뢰성 높은 AI 시스템 구축을 강조했다.
‘베이지안 오라클’은 고급 통계 모델인 ‘베이지안(Bayesian) 방법론’을 이용해 정보를 수집·분석하는 것을 말한다. 벤지오 교수는 지난 8월 ‘베이지안 오라클이 (AI)에이전트로 인한 피해를 막을 수 있는가?’라는 제목의 논문을 펴낸 바 있다.
벤지오 교수는 이날 AI가 대규모 노동 시장에 가져올 영향, 해킹, 슈퍼 인텔리전스(초지능)의 출현 등 미래 위험성을 경고하고, AI의 성능이 다양한 분야에서 인간 수준을 넘어섰다는 연구 결과를 소개했다.
그는 “AI 안전성을 확보하기 위해서는 위험한 행동을 하지 않도록 사전에 안전한 AI 설계를 해야 하고 AI의 행동과 목표를 인간과 일치시킬 필요가 있다”며 “국가·기업의 AI 경쟁에 더 많은 조정과 협력이 필요하다”고 강조했다.
벤지오 교수는 2017년 삼성 AI 포럼 제1회부터 꾸준히 참석했으며 2020년부터는 ‘삼성 AI 프로페서(교수)’로 활동해오고 있다.
벤지오 교수와 함께 2018년 튜링상을 수상한 얀 르쿤 미국 뉴욕대 교수도 기조 강연에 참여해 “기계가 인간의 지능 수준에 도달하기 위해서는 추가적인 기술 혁신이 필요하다”고 강조했다.
일상적인 전자제품(디바이스)과 AI의 관계에 대한 발제도 이뤄졌다. 삼성리서치 김대현 글로벌 AI센터장은 “생성형 AI 기술 발전에 따른 디바이스 AI의 일상 변화가 더욱 가속화되고 있다”고 말했다.
올해 8회째인 삼성 AI 포럼은 AI 및 컴퓨터 공학 전문가들이 모여 최신 연구 성과를 공유하는 자리다. 한종희 삼성전자 대표이사는 “AI가 더욱 강력해짐에 따라 ‘어떻게 AI를 더 책임감 있게 사용할 수 있을지’가 갈수록 중요해진다”면서 “삼성전자는 효율적이고 지속 가능한 AI 생태계를 구축하는 데 책임을 다할 것”이라고 밝혔다.