権利団体、政策議論の機会を歓迎

電子フロンティア財団（EFF）は、人工知能に関するカリフォルニア州の行政命令を、市民の懸念に取り組む機会として歓迎した。同時に州当局に対し、超知能システムを巡る遠い将来の想定よりも、既に測定可能な被害に重点を置くよう求めた。

このデジタル権利団体は9月19日付の声明で、雇用や公的給付での偏った自動判断、AIを利用した監視、個人別の価格設定を、直ちに取り組むべき政策課題として挙げた。ギャビン・ニューサム知事の政権に、こうしたシステムの影響を最も受けやすいコミュニティーの参加を得て規則を作るよう呼び掛けた。

EFFは行政命令を有益な出発点と評価し、制御喪失を伴う事案についてカリフォルニア州法SB 53に基づく報告要件を重視した点を支持した。同団体は、こうした事案の独立調査も支持する一方、大規模な研究所にしか費用を負担できない仕組みを作るのではなく、小規模開発者が第三者調査を利用する方法も州は検討すべきだと述べた。

安全策には精密な設計が必要

同団体は、提案される技術的対策は研究の現状を踏まえなければならないと注意を促した。高度なAIに対するいわゆるキルスイッチの有効性は、なお研究中の問題だという。したがって、AI研究所を対象としたサイバーセキュリティー要件は、明確で実行可能なものとし、定義されたリスクに結び付けるべきだとしている。

EFFはまた、システムを停止できる政府管理の仕組みについて、市民的自由の観点から懸念を示した。そのような権限は、保護されるべき言論への攻撃や政治的報復に転用され得ると主張する。この警告は安全策そのものを否定しているのではない。明確な安全規則の下で開発者が運用する制御と、国家が持つ広範な停止権限を区別している。

声明は、カリフォルニア州の課題を、説明責任、技術的な実現可能性、憲法上の保護の均衡として位置付ける。事案報告は規制当局や研究者による失敗の理解に役立ち、独立した検証は企業の説明を確かめられる。一方、仕様の曖昧な義務は、法令対応の負担を生み、市場の集中を招き、安全の範囲を超える権限を設ける恐れがある。

カリフォルニア州は、多くの主要AI開発企業が拠点を置き、州の規則が他地域の慣行にも影響することが多いため、技術規制で大きな役割を持つ。EFFの働き掛けは、その影響力を現在の問題に向けるよう州政権に迫るものだ。自動システムが差別を行っていないか、侵襲的な監視を可能にしていないか、価格を操作していないか、実効的な救済手段のないまま重要なサービスを人々から奪っていないかという問題である。

次の実質的な段階を担うのは、知事への勧告を準備している州の行政運営機関（Government Operations Agency）だ。EFFは、その過程に被害の恐れがある人々を参加させ、具体的な証拠に照らして安全策を評価するよう求めた。同団体の立場は支持的だが条件付きである。行政命令は真剣な政策議論を始めるきっかけになり得るが、そこから生まれる規則は、執行可能で、技術的な根拠があり、公民権を守るものでなければならない。