OpenAI의 고위 임원인 얀 라이케(Jan Leike)의 갑작스러운 퇴임 소식이 AI 커뮤니티를 떠들썩하게 만들었습니다. 라이케가 X에 올린 “저는 사임했습니다”라는 간결한 발표는 오픈AI의 초지능 AI 통제 프로젝트에서 그가 맡았던 중요한 역할 때문에 많은 이들을 놀라게 했다. 그보다 얼마 전, 오픈AI의 수석 과학자이자 공동 창립자인 일리아 수츠케버도 회사를 떠난다고 밝힌 바 있다.
Leike와 Sutskever는 한때 “슈퍼얼라인먼트(superalignment)” 팀을 이끌었습니다. 이는 인간을 능가하는 지능을 지닌 초지능 AI가 항상 인간의 의지에 따라 행동하도록 보장하기 위한 야심 찬 프로젝트였습니다. OpenAI는 4년 이내에 AI를 통제할 수 있는 해결책을 찾아내기 위해 이 프로젝트에 자사의 컴퓨팅 자원을 20% 투자했습니다.
그러나 OpenAI는 현재 초월적 AI를 통제할 효과적인 방법을 아직 찾지 못했다고 인정했다. 2023년 7월 게시된 글에서 OpenAI는 다음과 같이 밝혔다. “현재의 AI 조정 기법, 예를 들어 인간의 피드백을 활용한 강화 학습은 인간이 AI를 감독할 수 있는 능력에 의존합니다. 하지만 인간은 자신보다 더 똑똑한 AI 시스템을 신뢰할 수 있게 감독할 수 없으며, 따라서 현재의 조정 기법들은 초지능으로 확장될 수 없습니다. 우리는 새로운 과학적·기술적 돌파구가 필요합니다.”
OpenAI에 합류하기 전, 라이케는 구글의 DeepMind에서 근무했다. 그는 초지능 AI가 초래할 수 있는 잠재적 위험으로부터 인류를 보호하겠다는 포부를 항상 품어왔다. 2023년 8월 “80,000시간” 팟캐스트 에피소드에서 라이케는 “우리가 수년 동안 논의해 온 난제 같은 문제가 있는데, 이제 그 문제를 해결할 진정한 기회가 찾아왔다”고 말했다.”
Leike는 자신의 Substack에서 AI 정렬 문제에 대한 분석을 제시했다. 그는 “최적화 및 미세 조정 문제의 해결책은 인간의 해결 능력 범위 내에 있을지도 모른다. 하지만 아닐 수도 있다”고 말했다. Leike는 더 실현 가능한 해결책으로 “정렬 연구를 가속화할 수 있을 만큼 충분히 잘 미세 조정된 AI 시스템을 구축하여, 이를 통해 더 높은 능력을 갖춘 AI 시스템을 개발할 수 있도록 하는 것”을 제안했다.”
수츠케버와 라이케의 퇴진은 초지능 AI 통제 프로젝트의 미래에 대해 많은 의문을 제기하고 있다. 과연 오픈AI가 이 두 명의 최고 전문가들을 대신할 만한 적임자를 찾을 수 있을까? 그리고 더 중요한 것은, 초지능 AI를 통제하려는 목표가 과연 불가능한 임무인 것일까?
EZ Fast Tech: AI 기술을 적용한 전문적이고 SEO에 최적화된 웹사이트 솔루션
풍부한 경험과 열정을 갖춘 전문가 팀을 보유한 EZ Fast Tech는 전문적이고 SEO에 최적화된 웹사이트를 구축할 수 있도록 도와드리는 원스톱 웹사이트 디자인 및 개발 서비스를 자랑스럽게 제공합니다:
- 요청에 따라 웹사이트 기획 및 디자인
- SEO에 최적화된 웹사이트 제작, 빠른 로딩 속도
- 콘텐츠, 이미지 및 동영상 최적화
- 웹사이트 유지보수 및 지원 서비스 제공
