ふと気になった話。
生成ＡＩ（人工知能）などでわいせつな偽画像を作成する「性的ディープフェイク」について、警察庁は１７日、１８歳未満からの被害相談が１～９月に７９件あり、半数超は同じ学校の児童・生徒が関与していたと明らかにした。
(性的偽画像の被害相談、１８歳未満７９件 ５割超が学校内 生成ＡＩ普及で低年齢化―警察庁が初公表 (JIJI.COM))
こういうのは性質上、見つかっていないものが多いんだろうなと。
このような行為は 名誉毀損 や わいせつ電磁的記録媒体陳列 にあたるようだ。
どちらも外に発信するという行為が処罰対象になるものである。
すなわち頭の中で思っただけでは処罰できないわけですね。
それを他の人に伝える(必ずしも不特定多数に発信する必要はない)と問題になる。
AIを利用して画像・動画を生成して自分だけで使うという行為の場合、
実態としてはこれを処罰するのは難しいのではないかと思う。
AIを自分のコンピュータで運用していれば自分で閉じているとも言えるが、
実際にはAIを利用して画像・動画を生成するサービスを使っていることが多いと思われるので、
このサービスとの間では共有が行われることになる。
なので完全に自分の中に閉じる話ではないが、現実問題としてここが明るみになる可能性は低い。
それを嬉々として公開したり売ったり脅迫に使ったりするから問題なのであり、
そこの分別が付かない人が摘発されているとも言える。
同庁によると、裸の偽画像を公開されたといった相談は、中学生からが最多の４１件。高校生は２５件で、小学生も４件あった。被害者との関係は同級生や先輩など、同じ学校の児童・生徒によるものが５３．２％を占めた。
と、いかにも稚拙なやり方なのだろう。
実際には大人の方が多いのかもしれないし、学校の外からの方が多いのかもしれない。
基本的にAIを利用した権利侵害があったとして、その主体はAIを利用する人間であって、
AIを提供している側ではないと考えるのが通常である。
ただ、権利侵害に対して無防備すぎるというような話があると、
AIを提供する側も何らか処罰される可能性はあるのかもしれない。
そういうとき上記のような通常は明るみに出ないものも問われるのかもしれないが、
まだそういうのが処罰されるという段階にはなっていないのかなと。
AIで画像・動画を生成・加工するというもの。
おおよそ撮影が困難な画像・動画を他からの類推で生成できる点に特色がある。
そんな被写体いないよねという画像が作れてしまうと。
その被写体というのは具体的に誰というわけではない場合もあるが、
冒頭で書かれたような おおよそ裸で撮影できるわけがない同級生 というのもある。
こういうのを想像の中だけでやるのは誰にも非難できる話ではないが、
生成AIで具体的に作れるようになり、具体的な形になると公開できてしまう。
どういう形で向き合っていくのがよいかは難しい問題ですね。
基本的に利用者側の責任であるという立場は重要なんですよね。
一方でそれでは権利侵害が止まらない部分もあるので、そこをどう考えるかという話はある。
でも、インターネットサービスは容易に国境を越えますからね。
国際的な合意があったところで、それに従わない世界もあるだろう。