暴力的過激主義の兆候を示すChatGPTユーザーを検出し,脱原動力のリソースにリダイレクトします. ThroughLine startup detects and redirects ChatGPT users showing signs of violent extremism to deradicalization resources.

ニュージーランドのスタートアップ企業であるThroughLineは 人工知能で支援された過激化対策資源に暴力的極端主義を示すチャットGPTのような チャットボットのユーザーを検出し,再定着させるためのツールを開発しています. A New Zealand startup, ThroughLine, is developing a tool to detect and redirect users of chatbots like ChatGPT showing signs of violent extremism toward human and AI-supported deradicalization resources. OpenAI,Google,Anthropicの支援を受けてこのイニシアチブはリスクのあるユーザーをブロックする代わりに現実世界ヘルプラインと専門的なサポートに接続することを目的としており,攻撃的モデレーションが過激派を規制されていないプラットフォームに押し込むかもしれないという懸念に対処しています. Backed by OpenAI, Google, and Anthropic, the initiative aims to connect at-risk users to real-world helplines and specialized support rather than blocking them, addressing concerns that aggressive moderation could push extremists to unregulated platforms. プロジェクトはまだ初期段階にあり,リリース日程は決まっていない. The project is in early stages with no release date set.