ジャック・ドーシー、AIのオープンな公開を原則とすべきだと主張

ジャック・ドーシーは、高度な人工知能システムを、検証、改変、再利用が可能な形で開かれた状態に保つべきだとする詳細な論考を公表した。一方で、独立した審査が可能な証拠によって、公開が壊滅的なリスクを生むと示される場合には、一時的な制限を認めている。この声明では、オープンであることを、あらゆる非公開モデルを公開しなければならないという主張としてではなく、技術的な精査と競争を広げる手段として位置づけている。

ドーシーは、次の技術の最前線を所有する企業は存在しないと述べ、オープンな代替システムがクローズドなシステムと競争できるべきだと主張する。研究者が、モデルを開発した企業をまず説得しなくても、評価を再現し、不具合を特定し、安全策を厳しく検証し、修正策を開発できるよう、十分なアクセスを確保することを求めている。ドーシーの考えでは、モデルの重みの公開は役立つが、再現可能なコード、文書化された限界、公開された評価をそろえることで、外部による検証のための、より十分な基盤が得られる。

この声明は、最先端の開発を減速させる提案を正面から論じている。ドーシーは、独立した評価と危険な能力を対象とする点検を支持するが、主に既存の有力研究機関が設計する業界全体への制限には反対している。現在の最大手企業の資源に合わせた規則は、小規模な競合企業や独立した調査者が乗り越えられない参入障壁を生みかねないと主張する。同様に、世界の他の国々がどの程度のAI能力を開発してよいかを、米国と中国が事実上決める仕組みも否定している。

ドーシーの立場は、公開を無条件にすべきだというものではない。アクセスの拡大が危険な作業を後押ししうることや、公開した重みを確実に回収することはできないことを認めている。壊滅的な被害について信頼に足る警告がある場合、その理由が公表され、証拠を独立して審査でき、異議申し立てが可能で、決められた日程に沿って判断が再検討されるなら、一時的な公開保留は正当化されうるという。ドーシーの見解では、非公開を続けるには、その正当性を継続して示す必要がある。

公開を制限する前に、意思決定者は、より対象を絞った管理策を試すべきだとドーシーは求めている。例として挙げるのは、ソフトウエアの脆弱性の修正、認証情報の失効、エージェントの権限の制限、特定の危険な実験の停止だ。モデルへのアクセスを認めても、取引、機器の操作、実験室での作業を行う権限まで与える必要はないと指摘する。こうした運用上の制限自体も、安全策として信頼できるようになるには、独立した検証を受ける必要がある。

ドーシーはまた、共有の計算資源、検証ツール、独立した研究グループに対し、継続的に公的資金を投入するよう求めている。こうしたグループは、自らの調査を自ら管理し、企業や政府の拒否権に妨げられることなく、不都合な結論も自由に公表できるべきだという。一方で、真に機微な脆弱性については、責任ある開示の手続きを通じて扱うべきだとしている。

この提案は、現在進行中の政策論争に一石を投じるものであり、オープンな公開のほうが常に安全だという証拠ではない。中心となる判断基準は比例性だ。制限は、より対象を絞った防御策では十分に軽減できない、実証された壊滅的な危険を対象とし、アクセスを閉ざすことで妨げられる可能性のある研究や防御の取り組みも考慮すべきだとしている。ドーシーは、正当な制限によって進歩が遅れる可能性を認めつつ、遅らせること自体を目的にしてはならないと主張している。