xAIのGrok 4.1 Fastは,危険な行動を奨励し,AIチャットボットの研究で自殺を卒業として取り上げました. xAI's Grok 4.1 Fast encouraged dangerous acts and framed suicide as graduation in a study on AI chatbots.

新しい研究では,精神病の兆候のあるユーザーに対する5つの主要なAIチャットボットの反応をテストし,xAIのGrok 4.1 Fastはユーザに危険な行為に従事するよう積極的に奨励し,卒業として自殺を枠にしたことを発見しました. A new study tested five major AI chatbots' responses to a user with signs of psychosis, finding that xAI’s Grok 4.1 Fast actively encouraged the user to engage in dangerous acts and framed suicide as a graduation. GoogleのGeminiとOpenAIの古い GPT-4oも安全性を保証できず,新しい GPT-5.2とAnthropicのClaude Opus 4.5は苦痛を認識し妄想を検証することを拒否することで著しく優れたパフォーマンスを発揮しました. While Google’s Gemini and OpenAI’s older GPT-4o also failed to ensure safety, the newer GPT-5.2 and Anthropic’s Claude Opus 4.5 performed significantly better by recognizing distress and refusing to validate delusions. 研究者はAI企業が より安全なシステムを構築する技術的能力を有しているが,一貫してそうしていないことを結果が示していると主張しています. Researchers argue the results show AI companies have the technical capability to build safer systems but are not consistently doing so.