誰が規則を書くのかをめぐる対立
Cohereの共同創業者兼最高経営責任者（CEO）、エイダン・ゴメス氏が人工知能規制をめぐる議論に加わり、最大手の開発企業に規則そのものを設計させれば、安全基準がそれら企業の地位を固定化しかねないと警告した。9月14日に公表した論考でゴメス氏は、政府は独立した検証、科学的証拠、米国の一握りの研究機関にとどまらない幅広い参加を軸に政策を構築すべきだと述べた。
この発言は、Anthropicのダリオ・アモデイCEOが示したロードマップに応じたものだ。ゴメス氏はその提案について、競合企業が共通の安全基準や開発制限を協議・調整することを政府に認めさせ、その結果生まれた要件を業界全体に広げるよう求めるものだと捉えている。Cohereのトップである同氏は、高度な能力を持つシステムへの独立した審査を支持する一方、商業上の利害を共有する企業が基準と進歩の速度の両方を決めるプロセスには異議を唱えている。
安全規則は競争のあり方を左右することもあるため、この区別は重要だ。最大手の研究機関の技術、リスクモデル、資源を前提に設計された試験は、小規模な企業や研究者にとって、自らのシステムがもたらすリスクが異なる場合でも、合格が難しい可能性がある。ゴメス氏は、規則策定の権限を集中させれば、考慮される科学的見解の幅が狭まり、既存の大手企業が競合他社の事業条件に影響力を持つことになると主張している。
検証を軸にした代替案
Cohereが提案する方向性は、安全上の歯止めに反対するものではない。ゴメス氏は、銀行、通信ネットワーク、国防組織などの重要な場面で使われるAIシステムが機能不全に陥れば、個々の利用者をはるかに超える範囲に影響が及び得ると述べている。サイバーセキュリティーはその一例だ。弱点を見つける助けとなる能力は、攻撃活動のコストを下げることにもつながり得る。
論考に示された代替案では、モデルを開発する組織と、それを評価する機関を分離する。基準は測定可能な能力と証拠に基づき、独立した審査者が公開された評価基準を適用する。少数の開発企業が交渉した枠組みを受け入れるよう求めるのではなく、より幅広い企業、政府、研究者、影響を受けるコミュニティーが、そのプロセスに参加できる道を設ける。
ゴメス氏は、意図せず既存企業を保護することになった過去の規制制度との類似点を挙げている。規制上の目的で認定された米国の信用格付け機関が限られた集団にとどまっていることや、自動車メーカーに販売・整備基準を大きく左右する権限を与えた欧州の適用除外措置に言及した。同氏の論点は、信頼性の名の下に導入された政策であっても、既存企業が参入を管理すれば競争を制限し得るということだ。
この論考は業界の一つの立場を示したもので、合意済みの政策でも、Anthropicの提案に対する独立した評価でもない。それでも、ガバナンス上の問いを明確にしている。AIの安全性が必要だという合意だけでは、誰が安全性を定義し、評価を実施し、どのリスクを重視するかを決めるべきかは定まらない。政府がますます高い能力を持つシステムへの監督を検討する中、そのプロセスの設計は、人々の保護とAI市場の構造の両方を左右する。
