イギリスのAI詐欺検出システムでは、特定のグループに対して偏差が生じ、その使用を停止するよう呼びかける。 UK's AI fraud detection system biases against certain groups, prompting calls to halt its use.

英国労働労働省(DWP)は,当該AI制度が,給付金の不正を検出するための不正行為が,年齢,障害,国籍などの要因に基づく偏見を示すことを発見した. The UK's Department for Work and Pensions (DWP) has discovered that its AI system for detecting benefits fraud shows bias based on factors like age, disability, and nationality. 内部評価では、システムによっては、不正調査のために、あるグループの誤認が頻発していることがわかった。 An internal assessment found that the system incorrectly flagged certain groups more often for fraud investigation. リスクが完全に理解されるまで,DWPは,そのようなツールのさらなる展開を停止するよう要求しています. Critics are calling for the DWP to halt further deployment of such tools until risks are fully understood.