AIは、家族写真から偽の画像を作成するために用いられており、その結果、虐待や安全対策の推進を図っています。 AI is being used to create fake explicit images from family photos, leading to abuse and urging safety measures.

2025年1月25日閲覧. ^ 人工知能を使って家族写真を操作する捕食者(児童の誕生日やパフォーマンスビデオなど)が、インターネット上に急速に普及するデジタルの搾取の形態として、非常識な内容に改める。 In 2025, a growing threat involves predators using artificial intelligence to manipulate family photos—such as children’s birthday or performance videos—into non-consensual explicit content, a form of digital exploitation that spreads rapidly online. AIが生み出したこれらの画像は,しばしば数秒で作成されるが,脅迫,嫌がらせ,配信などに用いられ,深刻な感情的損害を生ずる. These AI-generated images, often created in seconds, are used for blackmail, harassment, or distribution, causing severe emotional harm. 失踪・搾取児童問題に関する国家センターを含む法執行機関や児童保護機関は,家族にオンラインでの個人画像の共有を制限し,疑わしい活動を報告するよう促し,同時に,より強力な保護措置,公衆の意識,児童性虐待の素材を作成する際にAIの悪用を防ぐための法律の更新を要求しています. Law enforcement and child protection agencies, including the National Center for Missing and Exploited Children, are urging families to limit sharing personal images online and report suspicious activity, while calling for stronger safeguards, public awareness, and updated laws to combat the misuse of AI in creating child sexual abuse material.