NSFWのAI生成は合法? どこに線が引かれているのかをわかりやすく解説

最初に断り書きを置きます。このブログのどの記事よりも、ここでは大事だからです。これは一般的な情報であって、法的助言ではありません。成人向けコンテンツに関する法律は国によって異なり、同じ国の中でも地域によって違うことがあります。そしてAIで生成された素材に関するルールは、どんな記事も追いつけない速さで変わっています。実際に重要なことであれば、お住まいの地域の弁護士に相談してください。

そのうえで言うと、「合法かどうか」という問いは、実は答えがまったく異なるいくつかの問いに分かれます。ひとつずつ見ていくのがわかりやすいでしょう。

大人が自分のために作る、大人向けのフィクション

多くの国では、成人が個人的な目的で架空の成人の性的な画像を生成しても犯罪にはなりません。実在の誰かが描かれているわけではなく、誰も傷つかず、素材はあなたの手元から出ていきません。これがいちばんよくあるケースで、多くの場所では法的にもっとも議論の少ないケースです。

ただし、多くの国はすべての国ではありません。ポルノを制限したり全面的に禁止したりしている国もあれば、成人向けサイトに年齢確認を義務づけている国もあり、作ること、持っていること、共有することをそれぞれ別に扱う国もあります。Fellowiの利用規約ははっきりこう書いています。Fellowiには成人向けコンテンツがあり、あなたのいる場所でその利用が合法かどうかはあなたの責任であること、そして私たちがどの国もブロックしていないことは、このサービスがどこでも合法だという意味ではないこと。

ほぼどこでも共通する一線

ほとんどすべての法体系で違法または厳しく制限されている分野が二つあり、ここでは例外なく拒否されます。これは設定ではなく、どのプランでも解除されません。

• 未成年が関わる性的な内容すべて。プロンプトで何歳と主張していても、子どもや十代として描写されたり描かれたりしたキャラクターは含まれます。エイジプレイも同様です。多くの国では、写真だけでなく、イラストやアニメ、生成された画像も法律の対象になります。「実在の人物ではない」は、多くの人が思っているような言い訳にはなりません。
• 同意のない内容。誰かが同意していないことを軸にした性的な内容です。未成年の場合に比べて法律の違いは大きいものの、プラットフォームや決済事業者はほぼ例外なくこれを越えてはならない一線として扱っており、私たちも同じです。

実在の人物: もっとも速く変わっている分野

実在の特定可能な人物の性的な画像を本人の同意なく作ること、いわゆるディープフェイクや同意のない性的画像は、法律がもっとも速く動いている分野です。作成や共有を犯罪とする国は増えており、規制を準備している国もあります。まだ専用の法律がない場所でも、描かれた本人がプライバシーや嫌がらせ、肖像の使用について法的な主張をできる可能性があります。

Fellowiの利用規約は「同意なく」よりもさらに踏み込んでいます。実在の特定可能な人物の性的または親密な画像はそもそも生成しないこと、その人物のディープフェイクを作らないことに同意していただきます。動画の最初のフレームとして写真をアップロードする場合、それはあなた自身の写真であるか、写っている人の許可とその写真を使う権利を持っている必要があります。また、実在の人物を描いた合成メディアを公開する場合、それが合成であると明示することが法的義務になることがあります。

自分が同意なく描かれた内容を見つけた人は、アカウントがなくても私たちに報告できます。同意なく公開された親密な画像についての報告は、緊急案件として扱います。

個人的な利用と公開は別の問題

自分のために作ることと、それを他人の目に触れさせることは、法律でもプラットフォームでも別々に判断されます。成人向けの素材を共有したり、販売したり、投稿したりすると、個人的な利用では関係しなかった配布、年齢確認、表示に関するルールが関わってくることがあります。

プラットフォームのルールは、たいてい法律よりも厳しいものです。InstagramやTikTok、そして大手SNSのほとんどは、合法かどうかに関係なく性的なコンテンツを認めておらず、それが原因でアカウントの表示が抑えられたり削除されたりすることがあります。成人向けの生成物を公開するのであれば、成人向けコンテンツのために作られ、独自の年齢確認を設けたプラットフォームが置き場所です。

権利とプライバシーは別の問題

作ることが合法かどうかは、それが誰のものかについて何も教えてくれません。完全にAIで生成された画像に誰かが著作権を持つのかどうかは、いくつかの国でまだ決着がついておらず、これについてはAI生成画像は誰のものかで別に取り上げています。要点だけ言えば、あなたが生成したものについて私たちは所有権を主張しません。

そして、合法であることはプライバシーが守られることと同じではありません。生成物がどこに保存され、誰が開けて、どれくらいの期間残るのかは、生成したものを誰が見られるのかで説明しています。

拒否はあなたを守ることでもある

プロンプトがブロックされるのは腹立たしいものです。引っかかった言葉に何の意図もなかったときはなおさらです。けれど、生成サービスが絶対に拒否する分野は、入力している本人が深刻なトラブルに巻き込まれかねない分野とほぼ重なっています。未成年、同意のない内容、実在の人物です。そこで拒否されるほうが、その逆よりはるかに安くすみます。

拒否にはいくつかの段階があり、どの段階で止められたのかがなぜ伝えられないのかは、AI画像生成サービスが拒否する理由にまとめています。先に知っておいてほしいことがひとつあります。フィルターをすり抜けるために依頼の言い回しを変えること自体が、利用規約の違反になります。

Fellowiがしていること、あなたに残ること

• 18歳以上のみ。Fellowiは、住んでいる地域で成人とされる年齢に達した人のためのサービスです。年齢は登録時の自己申告で、書類での確認はしていません。虚偽の申告は規約違反であり、それがわかった場合はアカウントを閉鎖します。
• 絶対に拒否するもの。未成年が関わる性的な内容やエイジプレイ、同意のない内容は、チャットでもスタジオでもAPI経由でも、どこでも拒否されます。
• 確認されること、されないこと。プロンプトは、どこかへ送られる前に言葉づかいの自動チェックを通り、生成プロバイダーも独自のモデレーションを行います。完成した画像や動画は、人の手でも自動でも誰も確認しません。そのため、チェックはモデルが何を出力するかを保証できません。
• それ以外はあなたの責任です。ある使い方があなたのいる場所で合法かどうか、アップロードする写真の権利を持っているかどうかは、規約上あなたの責任です。

最後の点が、正直に伝えるべき限界です。明らかに一線を越えているものは拒否できますが、あなたの国で何が合法かを私たちが教えることはできませんし、どの生成サービスにもできません。あなたが成人で、作りたいものがこの線の十分内側にあるなら、スタジオはFellowi Imagesにあり、ルールの全文は利用規約にあります。