中国と欧米のAI科学者グループは、「AIは冷戦時代の核爆弾のように制御される必要がある」という警告で一致した。.

によると インターネット, 中国、米国、その他複数の国から、AI分野の主要研究者、専門家、学者、そして影響力のある人物らが先週末、北京に集まり、AIを取り巻くリスクについて議論した。その後、このグループは共同声明を発表し、生物兵器の開発やサイバー攻撃の実施など、人工知能開発における「レッドライン」を特定した。.

共同声明の執筆者には、人工知能分野の先駆者とされるジェフリー・ヒントン教授とヨシュア・ベンジオ氏、カリフォルニア大学バークレー校のコンピュータ科学教授であるスチュアート・ラッセル氏、そして中国で最も著名なコンピュータ科学者の一人であるアンドリュー・ヤオ氏らが名を連ねている。彼らは主に、人間と同等あるいはそれ以上の能力を持つ超知能人工知能（AGI）がもたらす脅威について論じている。.

同グループは、AIの安全性に関する共通のアプローチが必要であり、「人類が生きている間に壊滅的、あるいは存亡に関わるリスク」を防ぐ必要があると警告した。これには、AIシステムが許容範囲を超えることを防ぐことが含まれる。例えば、「AIシステムは、人間の明確な承認と支援なしに自己複製や自己改善を行うべきではなく、また、その力と影響力を過度に増大させるような行動をとるべきではない」といった点が挙げられる。.

さらに、AIは大量破壊兵器の設計、生物兵器に関する国際条約の違反、あるいは深刻な経済的または軍事的損害をもたらすサイバー攻撃の自動実行といった問題に介入すべきではない。.

人工知能分野の第一人者たちは、今回の新たな警告は冷戦時代の核戦争回避の取り組みと同様の目標を掲げていると強調した。「各国政府と国際科学界の連携は、熱核惨事の回避に貢献した。人類は、今日の前例のない技術から生じる可能性のある惨事を回避するために、再び同様の連携を必要としている」と声明は述べている。.

“「議論の核心は、いかなる強力なAIシステムも超えてはならない『レッドライン』であり、政府もAIの開発と導入においてこれらのラインを設けるべきだということだ」とベンジオ教授は述べた。.

これに先立ち、欧州では3月13日にAI法案が可決された。これはAI規制法制定に向けた最終段階と位置づけられており、AI技術の適用に関する広範な規則を定め、AIを用いた特定の活動を禁止し、高リスクとみなされるAIシステムの評価を義務付ける内容となっている。欧州連合は5月に正式に同法を可決し、来年初めに施行される見込みだ。.

人工知能（AI）の急速な発展は、大きな懸念を引き起こしている。3月中旬には、米国政府とそのパートナー機関が委託した報告書でも、AIは「人類にとって絶滅レベルの脅威」となり得るため、制御する必要があると警告された。.

昨年3月、億万長者のイーロン・マスク氏やアップル共同創業者のスティーブ・ウォズニアック氏など、テクノロジー分野のエリートとされる1000人以上が、世界中の企業や組織に対し、AI開発競争を6ヶ月間停止し、AI技術に関する共通のルールを策定するよう求める書簡に署名した。その1ヶ月後、AI分野の第一人者や経営幹部を含む350人が署名したメッセージでも、同様の警告が発せられた。.

バオラム