警察庁の最新調査により、18歳未満の児童生徒を対象とした性的ディープフェイク被害のうち、半数以上が同級生や同じ学校の生徒によって作成されていたことが明らかになった。生成AI技術の普及に伴い、誰もが簡単に悪用できる環境が整ってしまった今、被害は急速に深刻化している。
かつて性的画像の作成には高度な技術が必要だったが、今や無料アプリで数分の作業で完成する。特に問題なのは、加害者が「いたずら」や「遊び」感覚で行っているケースが多いことだ。しかし被害者にとっては、一生消えない傷となり、不登校や精神疾患につながる深刻な人権侵害である。
同級生による被害が半数を超えるという事実は、学校現場でのデジタルリテラシー教育の欠如を浮き彫りにしている。生徒たちは技術の使い方は知っていても、それがもたらす法的・倫理的な consequences を理解していない。教育現場では、技術の進歩に追いつく形で、デジタル時代の人権教育を緊急に強化する必要がある。
法整備も喫緊の課題である。現行法では性的ディープフェイクの作成・拡散に対する罰則が不十分で、被害者の救済も困難だ。諸外国では既に専用の法律を制定している国もあり、日本でも包括的な法規制と被害者支援体制の構築が求められている。
保護者の役割も重要だ。子どもがどんなアプリを使っているか、誰とどんなやり取りをしているかを把握し、対話を続けることが予防につながる。同時に、万が一被害に遭った場合の相談窓口や対処法を事前に知っておくことも大切である。
技術開発企業の社会的責任も問われている。AI生成ツールの提供者は、悪用防止機能の実装や年齢確認の徹底、違法コンテンツの検知システムの強化など、技術的な対策を講じる義務がある。利便性の追求だけでなく、安全性とのバランスを取ることが求められる時代になった。
性的ディープフェイク問題は、技術の進歩が必ずしも社会の幸福につながらないことを示す典型例である。教育、法律、技術、家庭が一体となって取り組むことで、子どもたちを守り、デジタル社会の健全な発展を実現できる。一人ひとりが当事者意識を持ち、行動を起こす時が来ている。
