AI は , チップ が 銃 で ある こと を 誤認 し , 警察 の 反応 を 引き起こし , 十 代 の 無傷 で システム が 停止 し まし た。 AI misidentified chips as gun, triggering police response; teen unharmed, system paused.

ボルチモア警察は、AIシステムがポテトチップスの入った袋を銃器と誤って識別し、拘束された10代の人物のボディカメラ映像を公開した。 Baltimore police released body camera footage of a teenage individual detained after an AI system incorrectly identified a bag of potato chips as a firearm. 誤った識別がエスカレートし 警官が間違いを認識する前に 武器を引いた The misidentification triggered an escalation, with officers drawing weapons before realizing the error. AI の ツール は まだ テスト 中 で , 使用 を 全面 的 に 許可 さ れ て は い ませ ん でし た。 The AI tool was still in testing and not fully approved for use. 少年が無傷で釈放されたにもかかわらず この事件は AIの信頼性や 偏見や 警官の監視に関する懸念を強めたのです Though the teen was unharmed and released, the incident has intensified concerns about AI reliability, bias, and oversight in policing. 同 課 は システム の 配備 を 休止 し , 審査 を 開始 し まし た。 The department has paused the system’s deployment and launched a review.