AI技術の開発企業も、この問題に無関心ではいられなくなっている。画像生成モデルを提供するプラットフォームでは、実在の人物の顔写真を元にしたポルノ画像や過激な画像の生成を防止する「ネガティブプロンプト」やフィルター機能の実装が進む。
技術的対策と法制度の二条射線
世界的なコンテンツ認証標準規格「C2PA」など、画像の撮影・作成履歴を不可視の電子水で記録する技術の開発も急ピッチだ。これにより、AIによって生成された偽画像であることを自動的に判別し、プラットフォーム上で自動削除する仕組みが構築されつつある。
同時に、ディープフェイクポルノ規制に特化した新法の制定や、撮影罪（性的姿態撮影等処罰法）の適用範囲拡大など、法的な囲い込みも強化されている。
