研究 に よる と , AI システム は 感情 移入 や 倫理 に 関し て 訓練 を 受け て い ない こと が 明らか に なり , AI を 社会 的 価値 観 と 適合 さ せる 新しい 方法 を 提案 し ます。 Study reveals AI systems lack training in empathy and ethics, proposing a new method to align AI with societal values.

パーデュー大学の研究者は,AIは主に情報や効用価値について訓練され,多くの場合,プロの社会性や福祉、市民の価値観を見逃していることを知った. Researchers from Purdue University found that AI systems are trained primarily on information and utility values, often overlooking prosocial, well-being, and civic values. この調査では,主要AI企業が使用した3つのデータセットを検討し,共感,正義,人権に関する訓練不足が認められた. The study examined three datasets used by major AI companies and found a lack of training on empathy, justice, and human rights. その チーム は , AI システム が 倫理 的 な 行動 を 確実 に し , 地域 社会 の 価値 を より 良い もの に する ため に , 社会 的 な 価値 観 と 調和 する よう 助ける ため , 人間 の フィードバック から の 補強 学習 と いう 方法 を 導入 し まし た。 The team introduced a method called reinforcement learning from human feedback to help AI systems align with societal values, using curated datasets to ensure ethical behavior and better serve community values.