中國和西方的人工智慧科學家團體一致發出警告：“人工智慧需要像冷戰時期控制核彈一樣加以控制。”.

根據 網際網路, 上週末，來自中國、美國和其他幾個國家的頂尖人工智慧研究人員、專家、學者和該領域有影響力的人士齊聚北京，共同探討人工智慧面臨的風險。隨後，他們發表聯合聲明，明確了人工智慧發展中的“紅線”，包括製造生物武器和發動網路攻擊。.

這份聯合聲明的作者包括人工智慧領域的先驅傑弗裡·辛頓教授和約書亞·本吉奧；加州大學柏克萊分校電腦科學教授史都華·羅素；以及中國傑出的電腦科學家姚遠。他們主要探討了能力與人類相當甚至超越人類的超級人工智慧（AGI）所構成的威脅。.

該組織警告說，需要採取共同的人工智慧安全方法，以防止「在我們有生之年對人類造成災難性甚至生存性的風險」。這包括防止人工智慧系統超出可接受的限度，例如「任何人工智慧系統都不應在未經人類明確批准和支持的情況下複製或改進自身，也不應從事過度增強自身權力和影響力的行為」。.

此外，人工智慧不應幹預諸如設計大規模殺傷性武器、違反生物武器國際公約或自動實施造成嚴重經濟或軍事損失的網路攻擊等問題。.

頂尖人工智慧專家強調，這次新的預警旨在實現與冷戰時期避免核衝突類似的目標。 「各國政府和國際科學界的協調合作曾幫助阻止了一場熱核災難。如今，人類再次需要類似的協調合作，以防止由當今前所未有的技術引發的災難。」聲明中寫道。.

“「討論的核心是任何強大的AI系統都不應該逾越的『紅線‘，政府也應該在AI的開發和部署中劃定這些界限，」Bengio教授說。.

此前，歐洲議會於3月13日投票通過了《人工智慧法案》。這被視為透過立法控制人工智慧的最後一步，該法案為這項技術的應用制定了廣泛的規則，禁止使用人工智慧進行某些活動，並要求對被認為高風險的人工智慧系統進行評估。歐盟預計將於5月正式通過法案，並於明年初生效。.

人工智慧的快速發展引發了人們的極大擔憂。 3月中旬，美國政府及其合作夥伴委託撰寫的一份報告也警告稱，人工智慧可能對人類構成“滅絕等級的威脅”，因此需要加以控制。.

去年三月，包括億萬富翁伊隆馬斯克和蘋果聯合創始人史蒂夫沃茲尼亞克在內的1000多位科技界精英聯名簽署了一封公開信，呼籲全球企業和組織暫停人工智慧競賽六個月，以便制定一套通用的技術規則。一個月後，包括頂尖人工智慧專家和高階主管在內的350人聯名發出了類似的警告。.

寶林