OpenAIの上級幹部であるJan Leike氏の突然の退任は、AIコミュニティに波紋を広げた。ライケ氏がX（旧Twitter）に投稿した「辞任しました」という簡潔なメッセージは、OpenAIにおけるAIの超知能制御プロジェクトでの彼の重要な役割を考えると、多くの人々を驚かせた。その少し前には、OpenAIのチーフサイエンティスト兼共同創業者であるイリヤ・スツケヴェル氏も、同社を去ると発表していた。.
ライケとサツケバーはかつて、「スーパーアラインメント」というグループを率いていた。これは、人間を凌駕する知能を持つ超知能AIが、常に人間の意図に沿って行動することを保証するという、野心的なプロジェクトである。OpenAIは、4年以内にAIを制御する解決策を見出すことを目標に、自社の計算リソースの20%をこのプロジェクトに投入した。.
しかし、OpenAIは、現時点では超知能AIを制御する効果的な方法を見出せていないことを認めている。2023年7月の投稿で、OpenAIは次のように述べている。「人間のフィードバックを用いた強化学習など、現在のAI調整技術は、人間によるAIの監視能力に依存しています。しかし、人間は自分よりも賢いAIシステムを確実に監視することはできず、したがって、現在の調整技術は超知能の規模には拡張できません。新たな科学的・技術的ブレークスルーが必要です。」“
OpenAIに入社する前、ライケ氏はGoogle傘下のDeepMindで働いていました。彼は常に、超知能AIがもたらす潜在的なリスクから人類を守るという野心を抱いていました。2023年8月のポッドキャスト「80,000 Hours」のエピソードで、ライケ氏は次のように語った。「私たちが長年議論してきた難題があるが、今こそそれを解決する真の機会が訪れている。」“
自身のSubstackで、ライケ氏はAIの微調整に関する分析を提示した。彼は次のように述べている。「最適化や微調整の問題に対する解決策は、おそらく人間の解決能力の範囲内にある。しかし、そうでない可能性もある」。Leike氏は、より現実的な解決策として、「アライメント研究を加速させるのに十分な精度で微調整されたAIシステムを構築し、そこからより高性能なAIシステムを開発すること」を提案している。“
サツケバー氏とライケ氏の退任は、AIの超知能を制御するプロジェクトの将来について多くの疑問を投げかけている。OpenAIは、この二人のトップクラスの専門家に代わるふさわしい人材を見つけることができるのだろうか？そして、さらに重要なのは、超知能AIを制御するという目標は、果たして不可能な使命なのだろうか？
EZ Fast Tech：AIを活用した、SEO対策済みのプロフェッショナルなウェブサイトソリューション
経験豊富で情熱あふれる専門家チームを擁するEZ Fast Techは、プロフェッショナルでSEO対策の行き届いたウェブサイトを実現する、包括的なウェブデザイン・開発サービスを提供しております：
- ご要望に応じたウェブサイトの企画・デザイン
- SEO対策済みのウェブサイト制作、高速なページ読み込み
- コンテンツ、画像、動画の最適化
- ウェブサイトの保守・サポートサービスを提供
