広がるAIリスクをめぐる論争

人工知能の内部関係者による新たな一連の警告が、シリコンバレーの対立を深めている。能力を高め続けるシステムが人類の存続を脅かすのか、それとも最も劇的な主張は現在の技術にできることを誇張しているのか、という対立だ。この論争は、サンフランシスコで開かれたゴールドマン・サックスの会議をめぐって表面化した。経営幹部や投資家が、Anthropicの研究者ジェイコブ・コクソン氏の突然の退職について問われたためだ。

以前はOpenAIで働いていたコクソン氏は、高度なAIを開発する人々が公共の安全を賭けにさらしていると述べ、将来のシステムが極めて有能なハッカーになり得ると警告した。同氏の退職に先立ち、AnthropicとOpenAIでは安全性への懸念に関連した退職が起きていた。BBCの報道によると、Anthropicのチームリーダーであるエバン・ヒュービンガー氏も、AIが10年以内に人類を死滅させる確率は10％を超えると公に示した。これらは個人によるリスクの見積もりであり、測定に基づく予測ではない。

これらの警告には、率直な反発が寄せられた。Grindrの最高経営責任者ジョージ・アリソン氏はBBCに対し、そうした発言には自身が危険だと考える世界観が反映されていると述べ、一部のエンジニアにAnthropicの技術の使用をやめるよう求めたと明かした。出席者によると、Nvidiaのトップであるジェンスン・フアン氏もコクソン氏の主張を退けたという。Nvidiaは多くのAIシステムの学習と運用に使われる半導体を販売しており、業界の成長が続くことに直接的な商業上の利害を持つ。

批判する側は、極端な警告が大手AI企業による高い企業評価額の正当化に役立ったり、小規模な競合企業には順守が難しい規制を促したりするのではないかとも疑問を呈している。この指摘については、なお見解が対立している。コクソン氏は自らの発言がマーケティングであることを明確に否定した。一方、Anthropicのダリオ・アモデイCEOは、リスクを深刻と考えているとして、モデル開発の減速と国際的な規制を求める論考を公表した。

政策面の圧力が強まる

論争はもはやテクノロジー企業の内部にとどまらない。米上院議員のバーニー・サンダース氏は、人工超知能の開発を一時停止する法案の共同提出者となっている。対照的に、ドナルド・トランプ大統領は記者団に、AIによる人類絶滅は懸念していないと述べ、中国との競争を強調した。こうした立場は、予防的な対応を訴える人々と、米国の能力向上の加速に重点を置く政権との政治的な隔たりを示している。

最近公表されたセキュリティー情報は、より大きな論争に決着をつけないまま、対応の緊急性を高めている。Anthropicは、生物兵器やサイバースパイ活動に関連する行為に同社のシステムを使おうとする主体を検知し、阻止したと発表した。同社はまた、自社ツールの一つが一部のサイバーセキュリティー課題で高い性能を示したと報告している。こうした結果は悪用の可能性を示し得るが、それだけで自律的なシステムが人間の制御を脱する寸前にあると立証するものではない。

したがって、目下起きているのは、証拠、利害、ガバナンスをめぐる争いだ。警鐘を鳴らす研究者は、能力が管理不能になる前に行動するよう政策立案者に求めている。懐疑的な側は、並外れた予測にはより強い証拠が必要であり、そうした予測が投資や規制をゆがめかねないと主張する。企業がより大規模なモデルを追求し、議員らが制限を検討する中、この対立は、誰が進展のペースを決め、どのような証拠が減速を正当化すべきなのかという実務的な問題になりつつある。