ジェフリー・ヒントン氏、AIのリスクを改めて警告　業界内の議論が激化

計算機科学者のジェフリー・ヒントン氏は、能力を高める人工知能が人間の制御を離れる可能性について改めて警告し、正確に予測できないからといって、そのリスクを無視してよいわけではないと主張した。この発言により、最悪の事態をどれほど深刻に受け止めるべきかをめぐる著名な研究者とテクノロジー企業幹部の公の対立が、いっそう鮮明になった。

ニューラルネットワークの研究を通じて現代のAIの基盤構築に貢献したヒントン氏は、この分野で最も目立つ批判者の一人となっている。同氏は技術のリスクについてより自由に発言できるよう、2023年にGoogleを退社した。新たなインタビューでは、しばしば引用される自身の推定値は、特定の出来事を予測するためではなく、不確実性の大きさを伝えるためのものだと強調した。

この区別は、NVIDIAの最高経営責任者ジェンスン・フアン氏への反論の核心にある。フアン氏は最近、今後数十年でAIが人類を絶滅させる確率が10〜20％あるとするヒントン氏の警告を批判し、その数字には科学的研究の裏付けがなく、危機感をあおること自体が有害になり得ると述べた。これに対してヒントン氏は、正確な確率を確定できなくても、重大な可能性があるなら意思決定に反映すべきだと応じた。

ヒントン氏の主張は、最先端のシステムが、人間が確実に制御できるようになるよりも速く能力を獲得する可能性に基づく。同氏は、制御の喪失が不可逆的となり、失敗から学んでやり直す機会が失われるかもしれない点こそ、特有の危険だと述べた。また、AIに懐疑的な人々も、業界を強く支持する人々も、システムがどれほどの速さで進歩するかを現時点で正確に予測することはできないと主張した。

この対立の背景には、自律型エージェント、モデルの振る舞い、企業が自らを規制する能力に対する、AI研究分野での幅広い懸念がある。ヒントン氏は、不確実であることを理由に対応を待つという考えを退ける。一方、主要なAIモデルの訓練と実行に使われる半導体を供給する企業を率いるフアン氏は、より証拠に基づく評価を求め、人類絶滅の確率を数値化する科学的根拠に疑問を呈している。

この議論におけるヒントン氏の発言力は、かつて機械学習の主流から外れていた研究を数十年にわたって続けてきた実績に由来する。同氏と共同研究者たちは、データからパターンを学ぶシステムを追究し、2012年には同氏のチームが競合を大きく上回る画像認識システムを開発した。同年、Googleは同氏の会社DNNresearchを買収し、その後、ニューラルネットワーク技術は今日のAI産業の中核となった。ヒントン氏はヨシュア・ベンジオ氏、ヤン・ルカン氏とともにチューリング賞を受賞し、ノーベル物理学賞も受賞している。

今回の論争は、壊滅的な結果がどの程度起こり得るかに答えを出すものではない。むしろ、証拠が不完全で、起こり得る影響が極めて大きいとき、社会がどう対応すべきかという政策上の隔たりを浮き彫りにしている。ヒントン氏は、不確実性を予防措置と外部からの監督を必要とする理由と捉える立場だ。批判者たちは、衝撃的な確率の主張は、研究で実証できる範囲を超えかねないと指摘する。この議論は、自律性を増すシステムの安全規則を政府がどのように設計するかに影響しそうだ。