중국과 서방의 인공지능 과학자들은 "인공지능은 냉전 시대 핵폭탄처럼 통제되어야 한다"는 경고에 의견을 같이했다.
에 따르면 인터넷, 중국, 미국 및 여러 국가의 주요 인공지능 연구자, 전문가, 학자 및 해당 분야의 영향력 있는 인사들이 지난 주말 베이징에 모여 인공지능을 둘러싼 위험성에 대해 논의했습니다. 이들은 회의 후 공동 성명을 발표하여 생물학 무기 개발 및 사이버 공격과 같은 인공지능 개발의 "레드라인"을 제시했습니다.
공동 성명서의 저자에는 인공지능 분야의 선구자로 꼽히는 제프리 힌튼 교수와 요슈아 벤지오, 캘리포니아 대학교 버클리 캠퍼스의 컴퓨터 과학 교수인 스튜어트 러셀, 그리고 중국에서 가장 저명한 컴퓨터 과학자 중 한 명인 앤드류 야오가 포함되어 있습니다. 이들은 주로 인간과 동등하거나 그 이상의 능력을 가진 초지능 인공지능(AGI)이 제기하는 위협에 대해 논의합니다.
해당 단체는 "우리 생애 내에 인류에게 닥칠 재앙적이거나 심지어 실존적인 위험을 막기 위해서는 AI 안전에 대한 공통적인 접근 방식이 필요하다"고 경고했습니다. 여기에는 AI 시스템이 허용 가능한 한계를 넘어서는 것을 방지하는 것이 포함되는데, 예를 들어 "어떤 AI 시스템도 인간의 명시적인 승인과 지원 없이는 스스로를 복제하거나 개선할 수 없어야 하며, 자신의 권력과 영향력을 과도하게 증대시키는 행동에 관여해서는 안 된다"는 것입니다.
더 나아가, 인공지능은 대량살상무기 설계, 생물학 무기에 관한 국제 협약 위반, 심각한 재정적 또는 군사적 피해를 초래하는 사이버 공격의 자동 실행과 같은 문제에 개입해서는 안 됩니다.
주요 인공지능 전문가들은 이번 경고 시스템이 냉전 시대 핵전쟁 방지 노력과 유사한 목표를 지향한다고 강조했습니다. 성명서에는 "정부와 국제 과학계의 협력은 핵 재앙을 막는 데 도움이 되었습니다. 오늘날 전례 없는 기술로 인해 발생할 수 있는 재앙을 막기 위해 인류는 다시 한번 이와 같은 협력이 필요합니다."라고 적혀 있습니다.
“벤지오 교수는 "이번 논의의 핵심은 강력한 AI 시스템이 넘어서는 안 되는 '레드라인'과, 정부 또한 AI 개발 및 배포에 있어 이러한 레드라인을 설정해야 한다는 점"이라고 말했다.
앞서 유럽은 지난 3월 13일 인공지능법(AI법)에 찬성표를 던졌습니다. 이는 인공지능을 규제하기 위한 법률 제정의 마지막 단계로, 인공지능 기술 적용에 대한 광범위한 규칙을 정하고, 인공지능을 이용한 특정 활동을 금지하며, 고위험군으로 분류되는 인공지능 시스템에 대한 평가를 의무화하는 내용을 담고 있습니다. 유럽연합은 5월에 이 법안을 공식 통과시킬 예정이며, 내년 초부터 발효될 것으로 예상됩니다.
인공지능의 급속한 발전은 큰 우려를 불러일으키고 있습니다. 3월 중순, 미국 정부와 파트너들이 의뢰한 보고서에서도 인공지능이 "인류 멸종 수준의 위협"이 될 수 있으며, 반드시 통제되어야 한다고 경고했습니다.
지난 3월, 억만장자 일론 머스크와 애플 공동 창업자 스티브 워즈니악 등 기술 분야 엘리트 1,000여 명이 전 세계 기업과 단체에 인공지능(AI) 경쟁을 6개월간 중단하고 기술에 대한 공통 규칙을 마련할 것을 촉구하는 서한에 서명했습니다. 한 달 후, 주요 AI 전문가와 경영진을 포함한 350명이 서명한 또 다른 서한에서도 비슷한 경고가 나왔습니다.
바오 람
