AGIの到達点の先を見据える
Google DeepMind Instituteは、汎用人工知能の実現後に何が起こり得るかを検討する論考を公開した。人間と幅広く同等の能力を持つ機械から、人間にとって関心のあるほぼあらゆる課題で、多数の専門家からなる集団を上回るシステムへと視点を移している。執筆者たちは、このより厳しい基準を満たす区分を人工超知能、すなわちASIと呼び、そこに向かう移行を整理し測定するための、より良い方法が研究者には必要だと論じている。
論考は、知能を単一の到達基準ではなく、連続的なものとして捉える。その枠組みでは、人間水準のAGIは連続体の1地点に当たり、ASIはそのさらに先に位置する。専門家集団なら数年を要するかもしれない仕事を、より短い時間と少ない資源で完了させるというものだ。例として、ある科学分野全体の進歩を短期間に凝縮したり、大企業がチップ設計で1年間に達成する進展を再現したりすることを挙げている。提案する基準は幅広い領域に適用され、ゲーム、タンパク質の構造予測、一部の数学の問題で既に人間を上回れる特化型システムだけを指すものではない。
執筆者たちは、どのようなシステムも物理的、論理的、計算上の限界に制約されると強調する。気候、免疫系、社会を含む現実世界の複雑な現象を、望むだけ高い精度で予測することはできない。しかし理論上の上限だけでは、現在の機械、人間水準のシステム、そしてこれらの制約下で可能な最大の能力の間に広がる、十分に解明されていない大きな領域を理解する手掛かりは限られる。
論考が検討する道筋の1つは、規模の拡大だ。世界全体のAI向け実効計算能力は、ハードウェアへの投資、チップの改良、アルゴリズムの効率化が組み合わさって増えてきたと推定している。強い成長傾向が続けば、同じ認知作業をはるかに低コストで実行できるようになり、より多くのエージェントを高速に動かせる可能性がある。執筆者たちは、その結果として起こり得る状態を「認知の工業化」と表現する。標準化・自動化された知的作業が、産業規模のインフラを通じて提供されるということだ。
この見通しは、明確に条件付きのものだ。論考は、計算インフラの実際上の限界や、ソフトウェア効率のどこに限界があるか分からないことが、この傾向を減速させる可能性を指摘する。また、現在のエージェントを増やしても、それらに欠けている能力が必ず得られるわけではないと述べる。同じ盲点を持つシステムが膨大にあっても、真に新しい方法を必要とする課題には失敗し続けるかもしれない。それでも、幅広い領域で人間水準の能力を持つエージェントが、十分に安価で高速かつ多数となり、並列で作業できるようになれば、規模の拡大が質的な変化をもたらす可能性はある。
そのため同研究所は、導入規模を大きくするだけでASIが生まれると仮定せず、複数の技術的な道筋を検討している。モデル規模の継続的な拡大、推論時の計算量の追加、その他の進歩が新たな能力を引き出す可能性はあるが、現在のスケーリング則で観測される関係を将来に延ばすことは、あくまで外挿であり保証ではない。この区別は重要だ。論考が扱っているのは将来の可能性であり、AGIやASIが既に実現したという主張ではないからだ。
政策面での中心的なメッセージは、不確実性の下で備えることにある。人間水準の能力に達した後に進歩が加速すれば、科学、経済、社会の変化は、最初のAGIという節目そのものよりも速く、大規模に訪れる可能性がある。能力、コスト、速度、対応範囲を分けて追跡することで、システムが個別の得意分野から、超知能という概念が意味する幅広く安定した性能へと向かっているのかを、政府や研究者がより明確に把握できるかもしれない。



