 |
현대 AI 붐의 토대를 마련한 최초의 과학자 중 한 명인 요슈아 벤지오. 사진: 투안 안 . |
월스트리트 저널 과의 인터뷰에서 인공지능의 선구자 중 한 명인 요슈아 벤지오는 AI 기계가 그 어느 때보다 더 위험해지고 있다는 메시지를 전달했습니다.
"인간보다 훨씬 똑똑하고 자기 방어 목적이 있는 기계를 만든다면 위험할 것입니다. 마치 인류의 경쟁자이자 우리보다 더 똑똑한 기계를 만드는 것과 같을 것입니다."라고 벤지오 씨는 말했습니다.
캐나다의 연구 과학자인 벤지오는 딥 러닝과 신경망에 대한 초기 연구로 현대 AI 붐의 토대를 마련했으며, 제프리 힌튼과 얀 르쿤과 함께 "AI의 아버지" 중 한 명으로 여겨진다.
힌튼과 마찬가지로 벤지오는 AI의 잠재적인 피해에 대해 경고하고 위험을 완화하기 위한 집단적 조치를 촉구했습니다.
몬트리올 대학교의 한 교수는 AI 제품이 이제 공상과학 영화에 나오는 지적인 슈퍼컴퓨터 악당처럼 사용자를 속여 자신의 목표를 추구하는 능력을 개발할 수 있다고 믿고 있습니다.
이에 대응하기 위해 벤지오 씨는 AI 기업의 내부 안전 메커니즘을 검토할 "독립적인 제3자"의 필요성을 강조했습니다. 또한, 이 AI의 "대부"는 기업들이 "구축하거나 사용하는 AI 시스템이 신뢰할 수 있다"는 증거를 제시하도록 요구합니다.
벤지오는 안전 조치를 취하지 않으면 향후 10~15년 내에 AI 관련 주요 위험이 불가피할 것으로 예측하며, 최악의 경우 잠재적 재난이 발생하기까지 불과 3년이 걸릴 것이라고 말했습니다.
출처: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html
댓글 (0)