AIの警報をきっかけとした警察対応をめぐる訴訟

米メリーランド州のケンウッド高校で2025年10月に起きた出来事をめぐり、在校生と元生徒の計4人が、AI監視システムのベンダー、ボルティモア郡公立学校、同郡警察、および関係当局者個人を提訴した。2026年11月19日に発表された訴状は、武器検知システムがポテトチップスの袋を銃器と誤認し、それが武装した警察官の出動につながったと主張している。

公民権擁護団体のLawyers' Committee for Civil Rights Under Lawは、外部弁護士の支援を受け、タキ・アレン、ユイオサ・オグベイデ、デボン・トンプソン・ジュニア、キース・ウィンフィールド3世の代理人として訴えを起こした。同団体の説明によると、10代の4人は学校の入り口付近にいたところ、警察にひざをつくよう命じられ、手錠をかけられて身体を捜索された。銃は見つからなかった。

提訴した団体によると、Omnilert Gun Detectは銃器が存在する確率を90%とする警報を発した。訴状は、職員と警察が画像を確認して誤りだと判断したにもかかわらず、警報の取り消し後に警察官が派遣されたと主張している。原告らは、自動検知の誤りに加え、人間が誤りに気づいた後に対応のエスカレーションを止める手順が不十分だったことが、こうした結果を招いたと説明している。

これらは係争中の訴訟における主張であり、裁判所が認定した事実ではない。入手できる情報源は原告側の法律支援団体で、提供された証拠資料には被告側の回答は含まれていなかった。

原告らは学校と警察の手順の変更を求める

訴状は、連邦および州の憲法上の権利の侵害、過失、重過失などの不法行為があったと主張している。訴えはボルティモア郡巡回裁判所に提起された。原告らは4人への救済に加え、地域の関係機関が自動脅威検知システムの警報を検証し、こうした技術を学校で使うことが適切かを再検討するとともに、取り消された警報によって武装対応が引き起こされるのを防ぐ仕組みを整えるよう求めている。

Lawyers' Committeeは、研修、監督、誤りと結果に関する透明性、そして監視に関する意思決定への地域社会の参加も求めている。同団体の中心的な主張は、特に警報への対応が、警察官が銃を抜いて子どもたちに対峙する事態につながり得る場合、技術的な警報は人間による判断の代わりにはならないというものだ。

この訴訟は、AI製品を取り巻く一連の対応全体に目を向けさせる。精度も問題の一つだが、訴状はベンダーによる警報の確認方法、学校による解釈の仕方、警察への情報伝達の経路、そして取り消しが確実に出動を止めるかどうかも問題視している。これらの段階で権限や連絡体制が明確でなければ、誤検知ははるかに危険なものになる。

生徒らの主張は今後、司法手続きを通じて検証される。最終的な結論がどうなるにせよ、訴えられている出来事は、自動化された安全対策ツールを導入する学校に具体的な管理上の問いを投げかける。対応手順は、ソフトウェアが間違う可能性を前提に設計されているのか、という問いだ。