研究者らは、AI生成コンテンツの増加がAIシステムのモデル崩壊につながる可能性があると警告している。

研究者たちは、インターネットが人工知能によって生成されたコンテンツで満たされるようになると、AIシステムが意味不明なものに陥る可能性があると警告している。 この「モデル崩壊」は、他のモデルによって作成されたデータでトレーニングされた AI モデルが意味不明な応答を生成するときに発生します。 AI 生成コンテンツが公開されるにつれてモデル崩壊のリスクが高まり、これらのシステムのトレーニングに使用されるデータが汚染され、大規模な言語モデルの進歩が妨げられる可能性があります。

July 24, 2024
6 記事