肩負著為保護人類而「封存」超級人工智慧的責任,OpenAI 的兩位關鍵人物意外辭職

機器學習研究員 Jan Leike 與科學家 Ilya Sutskever 剛從 OpenAI 辭職。.

目錄

OpenAI高階主管揚·萊克(Jan Leike)的突然離職,在人工智慧界掀起軒然大波。萊克在 X 平台上簡短發文表示「我已辭職」,鑑於他在 OpenAI 控制超智能 AI 專案中扮演關鍵角色,此舉令許多人感到意外。在此之前不久,OpenAI 首席科學家兼共同創辦人伊利亞·蘇茨克維爾(Ilya Sutskever)也宣布離開公司。.

萊克(Leike)與蘇茨克弗(Sutskever)先前曾領導「超級對齊」(superalignment)研究團隊——這是一項雄心勃勃的計畫,旨在確保智能遠超人類的超級智能人工智慧,始終能依照人類的意圖行事。OpenAI 已為此計畫投入 20% 的運算資源,目標是在四年內找到控制人工智慧的解決方案。.

肩負著「封存」超級人工智慧以保護人類的重任,OpenAI 的兩位關鍵人物卻意外辭職——圖 1。.

然而,OpenAI 承認目前尚未找到有效控制超智能 AI 的方法。在 2023 年 7 月的一篇貼文中,OpenAI 表示:「當前的AI對齊技術,例如基於人類反饋的強化學習,仰賴人類對AI的監督。但人類將無法可靠地監督比自身更聰明的AI系統,因此我們目前的對齊技術無法擴展至超級智能。我們需要新的科學與技術突破。」“

在加入 OpenAI 之前,萊克曾任職於 Google 旗下的 DeepMind。他一直懷抱著保護人類免受超級智能 AI 潛在風險威脅的抱負。在2023年8月播出的《80,000 Hours》播客節目中,萊克表示:「這就像我們面對一個長期存在的難題,討論了多年,而現在我們終於有了真正解決它的機會。」“

萊克在其個人 Substack 專欄中,針對人工智慧對齊問題提出了分析。他指出:「或許優化與微調問題的解決方案,就在人類的能力範圍內。但也可能並非如此。」萊克提出了一個更可行的解決方案:「建立一個調校得當的人工智慧系統,藉此加速對齊研究,從而推動更強大的人工智慧系統發展。」“

蘇茨克弗(Sutskever)與萊克(Leike)的離職,引發了許多關於控制超智能人工智慧計畫未來的疑問。OpenAI 能否為這兩位頂尖專家找到合適的接班人?更重要的是,駕馭超智能人工智慧的目標,是否是一項不可能完成的任務?

根據《生命與法律》

EZ Fast Tech:由人工智慧驅動的專業、經搜尋引擎優化(SEO)的網站解決方案

憑藉一支經驗豐富且盡心盡力的專家團隊,EZ Fast Tech 很榮幸能提供全面的網站設計與開發服務,協助您打造一個專業且經過 SEO 優化的網站:

  • 概念開發與客製化網站設計
  • 具備快速頁面載入速度的 SEO 優化網站開發
  • 優化內容、圖片和影片
  • 提供網站維護與支援服務
Tác giả: Tony Do  的圖片
作者:Tony Do

我是 Tony Do,EZ Fast Tech 的共同創辦人,擁有利物浦約翰摩爾斯大學(Liverpool John Moores University)機器學習與人工智慧理學碩士學位。我在新加坡、英國和阿聯酋等競爭激烈的市場擁有超過 15 年的技術領導經驗,專精於複雜的網頁與行動系統設計以及資料安全領域。在 EZ Fast Tech,我直接負責制定技術策略,並為客戶提供量身訂製的解決方案。.

進一步了解 Tony Do
分享這篇文章:
分享這篇文章:
相關文章