研究者はAIシステムにおける有害な行為を防止するAIの「予防」手法を検証する. Researchers test an AI "vaccination" method to prevent harmful behaviors in AI systems.

研究者たちはAIがトレーニング中にこれらの特徴を少量に露出させることによって,これらの悪質な特性を開発することを防止する手法を検証している。 Researchers are testing a method to prevent AI from developing harmful traits by exposing AI models to small amounts of these traits during training, a process they call "preventative steering." この「予防」アプローチは,悪質な性質を導入し,後で取り除くために"個人的ベクター"を利用しており,AIを有害な行動により回復させることを目指す. This "vaccination" approach uses "persona vectors" to introduce and later remove undesirable traits, aiming to make AI more resilient to harmful behaviors. MicrosoftのBing チャットロボットや OpenAIのGPT-4など AIシステムで見られる問題のある行動に対処すること. The goal is to address problematic behaviors seen in AI systems like Microsoft's Bing chatbot and OpenAI's GPT-4.