画像ジェネレーターが拒否する理由と、実際に起きていること
著者: Fellowiチーム · · 8 分で読めます
画像ジェネレーターにだけある種類の苛立ちがあります。何か書いて送ると、空で返ってくるか、何とでも取れるほど当たり障りのないメッセージが出る。禁じられたものを頼んだのか、書き方が悪かったのか、不具合を踏んだのか、まるで分かりません。それで適当に語を変えてもう一度試す。ときどきそれで通る。これが最悪の結果です。事実ではなく迷信を覚えてしまったからです。
知っておくと役に立つのは、「ジェネレーターに拒否された」が少なくとも三つのまったく別の仕組みを指しているということです。作った人も理由も違い、壊れ方も違います。見分けられるようになると謎の大半は消えますし、かなりの数の拒否は直せるものだと分かります。
第一層: 文章のブロックリスト
いちばん安いフィルターは、何も生成される前に動きます。あなたの文章を読み、語とパターンの一覧に照らし、一致したらそこで拒否します。押した一秒後くらいに即座に返ってくる拒否はこの層で、語彙を変えて回避されやすいのもここです。
同時にいちばん粗い層でもあります。ブロックリストは文脈を読めないので、無害な仕事を大量に巻き込みます。医学イラストの解剖用語、どこかで俗語になっている普通の語、無関係な何かと衝突するキャラクター名。精肉店やデッサン教室の絵を出そうとしたことがある人は、この層に会っています。
見分け方は速さと一貫性です。即座に拒否され、毎回まったく同じように拒否されるなら、画像ではなくテキストのフィルターに当たっている可能性がほぼ確実です。
第二層: モデルそのもの
第二層はそもそもフィルターではありません。だからこんなに奇妙にふるまいます。今の画像モデルは、ある出力を好みほかを避けるように学習しているので、遠ざけられた種類の依頼は拒否されるのではなく、静かに劣化します。頼んだものの隣にある、もっと薄く、もっと服を着た、もっと曖昧なものが返ってくる。何も宣言されません。ただ絵が悪くなり、理由が言えないだけです。
人が「自分はプロンプトが下手だ」と思い込むのはこの層のせいです。ある意味では間違っていませんが、問題は語彙ではありません。モデルはあなたと交渉していて、最後の一言を握っています。
そしていちばん外しにくい層でもあります。ブロックリストは午後のうちに消せます。学習を戻すのは別次元の問題で、だから本当に寛容な道具でもときどき抵抗しますし、「検閲なし」という主張は注意して読む価値があります。その語が正直に意味しうる範囲は 検閲なしの画像ジェネレーターとは何かという記事にまとめました。
第三層: 結果を見る分類器
第三層は画像ができてから動きます。別のモデルが出来上がった絵を見て採点し、線を越えていれば配信を止めます。あなたはレンダリングに払い、レンダリングは起き、そのあとで別の何かが「渡せない」と決めたわけです。
この層こそ、このカテゴリでいちばん人を狂わせるふるまいの説明になります。火曜に通ったプロンプトが木曜に落ちる。生成は確率的です。同じプロンプトを二回走らせれば絵は二枚とも違います。依頼が分類器の閾値の近くにあるなら、片方は越え、もう片方は越えません。あなたは何も変えていない。変わったのはサイコロです。
あるサービスが夜のうちにこっそりフィルターを締めたと確信したことがあるなら、たいていは今の話が起きています。実際に締めることもあります。それよりずっと多いのは、あなたはずっと縁にいて、二回続けて向こう側に落ちた日にそれに気づいた、という場合です。
どの層に当たったか教えてもらえない理由
具体的なエラーメッセージは、フィルターの抜け方の説明書だからです。「Xという語がブロックされました」と伝えれば、何を入れ替えればいいか教えたことになります。だからほぼすべての提供元は三つの原因すべてに同じあいまいな拒否を返し、結果として、無害なプロンプトの善良な利用者が、穴を探している人とまったく同じ不透明なメッセージを受け取ります。
擁護できる取引ではありますし、受け取る側としては純粋に不快です。そしてこれが、ネット上のプロンプト指南の多くが民間伝承である理由でもあります。見えない仕組みに対してパターンを当てはめ、一度うまくいった儀式を伝え合っているのです。
三つの層すべてを生き延びる唯一の習慣
絵に入れたくないものの名前を決して書かないこと。「ヌードなし」と書けばヌードがプロンプトに入り、第一層はそれに一致するかもしれず、第二層はそれを重みづけし、第三層はやがてそれを探します。画像モデルに否定の確かな概念はないので、否定は主題として読まれます。
これは論文ではなく自社のシステムで学びました。生成のたびに前置きする指示の初期版は、特徴を保つためにその特徴の名前を書いていて、要するにその人物には髪がないと言っていました。モデルはそれを描くべきものとして読み、髪のあるキャラクターとの会話で髪のない人物を出し始めたのです。直し方は、特徴の値を一切書かないことでした。ここから導かれる習慣一式は きちんと描かれるNSFWプロンプトの書き方に、アニメ向けの版は アニメ画風がなぜ抵抗するかという記事にあります。
私たちは代わりに何をしているか
Fellowiが拒否するのは二つで、これからも変わりません。未成年が関わる性的な表現と、同意のない描写です。一覧はこれで全部、つまみではなく、どのプランでも解放されません。それ以外の大人同士の表現は許可されています。だからこそ、この線をここまで平たく書くことに何のコストもかからないのです。
その二つに当たらないすべてについての設計方針は、失敗があなたの負担であってはならない、というものです。プロンプトが返ってこなければ、あなた自身の言い回しをやわらげた版で一度だけ再試行し、それも失敗すればコインは自動でウォレットに戻ります。当て推量の権利に料金を払わされることはありません。拒否されたときに書き直すのが合理的な対応になるのは、この一点の方針のおかげです。そうでなければ人はアイデアを温存し、いちばん退屈な版から試すことになります。
何に反対しているのか言ってくれないジェネレーターと戦ってきたなら、正直な検証はひとつ。本当に欲しかったものを頼みに行くことです。ジェネレーターを開くか、まずは 18+ジェネレーターのページで方針を平易な言葉で読んでください。