中国和西方的人工智能科学家团体一致发出警告：“人工智能需要像冷战时期控制核弹一样加以控制。”.

据 互联网, 上周末，来自中国、美国和其他几个国家的顶尖人工智能研究人员、专家、学者和该领域有影响力的人士齐聚北京，共同探讨人工智能面临的风险。随后，他们发表联合声明，明确了人工智能发展中的“红线”，包括制造生物武器和发动网络攻击。.

这份联合声明的作者包括人工智能领域的先驱杰弗里·辛顿教授和约书亚·本吉奥；加州大学伯克利分校计算机科学教授斯图尔特·罗素；以及中国杰出的计算机科学家姚远。他们主要探讨了能力与人类相当甚至超越人类的超级人工智能（AGI）所构成的威胁。.

该组织警告说，需要采取共同的人工智能安全方法，以防止“在我们有生之年对人类造成灾难性甚至生存性的风险”。这包括防止人工智能系统超出可接受的限度，例如“任何人工智能系统都不应在未经人类明确批准和支持的情况下复制或改进自身，也不应从事过度增强自身权力和影响力的行为”。.

此外，人工智能不应干预诸如设计大规模杀伤性武器、违反生物武器国际公约或自动实施造成严重经济或军事损失的网络攻击等问题。.

顶尖人工智能专家强调，此次新的预警旨在实现与冷战时期避免核冲突类似的目标。“各国政府和国际科学界的协调合作曾帮助阻止了一场热核灾难。如今，人类再次需要类似的协调合作，以防止由当今前所未有的技术引发的灾难。”声明中写道。.

“讨论的核心是任何强大的AI系统都不应该逾越的‘红线’，政府也应该在AI的开发和部署中划定这些界限，”Bengio教授说。.

此前，欧洲议会于3月13日投票通过了《人工智能法案》。这被视为通过立法控制人工智能的最后一步，该法案为这项技术的应用制定了广泛的规则，禁止使用人工智能进行某些活动，并要求对被认为高风险的人工智能系统进行评估。欧盟预计将于5月正式通过该法案，并于明年初生效。.

人工智能的快速发展引发了人们的极大担忧。3月中旬，美国政府及其合作伙伴委托撰写的一份报告也警告称，人工智能可能对人类构成“灭绝级别的威胁”，因此需要加以控制。.

去年三月，包括亿万富翁埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克在内的1000多位科技界精英联名签署了一封公开信，呼吁全球企业和组织暂停人工智能竞赛六个月，以便制定一套通用的技术规则。一个月后，包括顶尖人工智能专家和高管在内的350人联名发出了类似的警告。.

宝林