ドリトスを食べていた学生、AIの誤検知により警察に囲まれる

アメリカの学校では、これまで数えきれないほどの銃乱射事件という悲惨な出来事が生じてきました。

では、高性能なAIがこうした事件を未然に防ぐことは可能なのでしょうか。

2025年、メリーランド州の高校でドリトスのスナック菓子を食べていただけの学生が、AIの誤認識によって警察に銃を向けられ、取り押さえられるという出来事が起きました。

AI活用の課題はまだまだ残っているようです。

AIの誤検知により「ドリトスを食べていた学生」が手錠をかけられる

アメリカは世界でも突出して銃による事件が多い国であり、2025年には国内で500件を超える銃乱射事件が発生しています。

こうした背景から、多くの学校でAIを使った銃検知システムの導入が急速に進みました。

しかし、これらのAIシステムが思わぬ結果を生じさせることもあります。

事件が起きたのは、メリーランド州ボルチモア郡のケンウッド高校。

放課後、16歳のタキ・アレン君は、友人と談笑しながら「ドリトス」を食べていました。

そして食べ終わった袋をくしゃくしゃにしてポケットにしまいました。

何気ない放課後のワンシーンですが、その数分後、彼の元に8台ものパトカーが押し寄せることになりました。

警官たちは銃を構え、「地面に伏せろ！」と叫び、アレン君は「僕だって？」と混乱しながらも両手を挙げて指示に従いました。

手錠をかけられたままパトカーの前で座らされ、所持品を調べられた結果、見つかったのはただのドリトスの袋だけでした。

この“誤認による警察対応”のきっかけとなったのは、学校に導入されていたAI銃検知システム「Omnilert」の誤検知です。

このシステムでは、校内に設置された約7,000台の監視カメラの映像をAIが解析し、銃のような形状を検出すると、校内の責任者や警備員に即時通知が届く仕組みとなっています。

今回、AIが「ドリトスの袋を握っている」アレン君の姿を「銃を持っている」と誤認識。

人間の監視スタッフも「銃のように見える」と判断し、警察への通報が行われました。

事件自体は数分で収束しましたが、その間に当事者と家族が受けた精神的な衝撃は大きなものとなりました。

アレン君自身は「もう外でスナックを食べるのが怖い」と語り、祖父は「16歳の孫に8丁もの銃を向ける必要はなかった」と憤りを隠しません。

では、どうしてこのような誤検知が生じたのでしょうか。

「誤検知」だけじゃない、「本物の銃を見逃す」ケースも

今回、AIが「スナックの袋」を「銃」と誤認した理由について、Omnilert社は「照明や袋の色、持ち方が銃に似ていた」と説明しています。

しかし、本人に画像を見せたところ「どう見ても銃ではなく、ただのスナック袋だった」と話しており、AIや運用する側の“主観”が大きく関与したことが伺えます。

AIによる画像認識は、まだ完璧とは言えません。

光の当たり方や物体の色・持ち方など、ちょっとした違いで誤認識が発生します。

さらに、危険を見逃さないために慎重になりすぎて、本当は脅威ではない場合でも“とりあえず通報”してしまうケースも増えています。

実際、同じOmnilertシステムが導入された他の学校でも、警察が出動した結果、無害な物品しか持っていなかったという事例が報告されています。

一方、もっと深刻な問題も浮き彫りになっています。

2024年には、別の高校で実際に生徒による銃撃事件が発生しましたが、その時はカメラから犯人が遠かったためAIは何も検出できませんでした。

つまり、AIは「本物の銃」を見逃してしまう場合があるのです。

こうしたAIシステムには巨額のコストがかけられていますが、「過剰な誤認識」と「本当の危険を見逃す」両方のリスクが現実には残されています。

しかも、AIの学習データや運用者の判断に社会的バイアス（特に人種バイアス）が入り込むことで、「特定の生徒がより危険視されやすい」という課題も指摘されています。

このように、AIによる銃検知は、「学校の安全を守る」目的で急速に導入が進みましたが、現場では「見せかけの安心感」や「生徒や家族の不安と不信感」を生む副作用も出ています。

現段階では、「人間の安全」を守るうえで、AIを全面的に信頼することはできません。

AIの驚異的な力を実感する場面が増えてきたからこそ、そのことを思い起こす必要があるでしょう。

全ての画像を見る

参考文献

This AI Was Supposed to Detect Guns in School. It Called the Cops on a Teen Eating Doritos
https://www.zmescience.com/science/news-science/ai-gun-bias-school-children-shooting-teen/

Baltimore County school’s AI gun detection system mistook a bag of chips for a weapon
https://www.thebanner.com/education/k-12-schools/kenwood-high-school-omnilert-gun-chips-false-alarm-YJEL25XTVRBUDFDIJ7TEOBEKCY/

ライター

矢黒尚人: ロボットやドローンといった未来技術に強い関心あり。材料工学の観点から新しい可能性を探ることが好きです。趣味は筋トレで、日々のトレーニングを通じて心身のバランスを整えています。

編集者

ナゾロジー 編集部