Pourquoi les générateurs d'images vous refusent, et ce qui se passe vraiment

Il existe une frustration qui n'arrive qu'avec les générateurs d'images. Vous écrivez quelque chose, cela revient vide ou accompagné d'un message si fade qu'il pourrait tout signifier, et vous n'avez aucune idée de si vous avez demandé quelque chose d'interdit, mal formulé, ou rencontré un bug. Alors vous changez un mot au hasard et réessayez. Parfois ça marche, ce qui est le pire résultat possible : vous venez d'apprendre une superstition au lieu d'un fait.

Ce qu'il est utile de comprendre, c'est que « le générateur m'a refusé » désigne au moins trois systèmes complètement différents, construits par des gens différents pour des raisons différentes, et qui échouent différemment. Une fois qu'on sait les distinguer, l'essentiel du mystère disparaît et un bon nombre de refus se révèlent réparables.

Couche un : la liste de mots interdits

Le filtre le moins coûteux s'exécute avant toute génération. Il lit votre texte, le compare à une liste de mots et de motifs, et rejette d'emblée en cas de correspondance. C'est cette couche qui produit les refus instantanés, en général dans la seconde qui suit le clic, et c'est celle que l'on contourne le plus souvent avec succès en changeant de vocabulaire.

C'est aussi la plus grossière. Une liste ne lit pas le contexte, donc elle attrape une quantité énorme de travail parfaitement innocent : termes anatomiques dans une illustration médicale, mots ordinaires qui sont de l'argot ailleurs, noms de personnages qui entrent en collision avec autre chose. Quiconque a tenté de générer une boucherie ou un cours de dessin d'après modèle a rencontré cette couche.

L'indice, c'est la vitesse et la constance. Si une consigne est refusée immédiatement et refusée chaque fois exactement de la même façon, vous butez presque certainement sur un filtre textuel, et non sur quoi que ce soit lié à l'image.

Couche deux : le modèle lui-même

La deuxième couche n'est pas un filtre du tout, ce qui explique son comportement si étrange. Les modèles d'images actuels sont entraînés à préférer certaines sorties et à en éviter d'autres, si bien qu'une demande dont on a éloigné le modèle n'est pas rejetée : elle est silencieusement dégradée. Vous avez demandé une chose et reçu sa voisine, plus fade, plus habillée, plus ambiguë. Rien ne s'est annoncé. Vous avez simplement eu une moins bonne image sans pouvoir dire pourquoi.

C'est la couche qui fait croire aux gens qu'ils sont mauvais en prompt. En un sens ils n'ont pas tort, mais le problème n'est pas leur vocabulaire. Le modèle négocie avec eux, et c'est lui qui a le dernier mot.

C'est aussi la plus difficile à retirer. Un fournisseur supprime une liste de mots en une après-midi. Défaire un entraînement est d'un autre ordre, et c'est pourquoi même des outils réellement permissifs résistent parfois, et pourquoi le mot « sans censure » mérite d'être lu avec attention. Ce qu'il peut honnêtement vouloir dire est dans ce que signifie vraiment un générateur sans censure.

Couche trois : le classificateur qui regarde le résultat

La troisième couche s'exécute une fois l'image produite. Un autre modèle regarde le rendu fini, lui attribue un score et bloque la livraison si ce score franchit une limite. Vous avez payé le rendu, le rendu a eu lieu, et ensuite quelque chose d'autre a décidé que vous n'y aviez pas droit.

C'est cette couche qui explique le comportement le plus exaspérant de toute la catégorie : la même consigne qui passe mardi et échoue jeudi. La génération est aléatoire. Lancez une consigne deux fois, vous obtenez deux images différentes. Si votre demande se situe près du seuil du classificateur, l'une le franchit et l'autre non. Vous n'avez rien fait de différent. Les dés, si.

Si vous avez déjà été convaincu qu'un service avait discrètement resserré ses filtres pendant la nuit, c'est en général cela qui s'est produit. Parfois les fournisseurs resserrent vraiment. Bien plus souvent, vous étiez depuis toujours sur la limite et vous l'avez remarqué le jour où vous êtes tombé deux fois de suite du mauvais côté.

Pourquoi personne ne vous dit quelle couche vous a attrapé

Parce qu'un message d'erreur précis est un mode d'emploi pour contourner le filtre. Dites à quelqu'un « le mot X a été bloqué » et vous lui avez appris exactement quoi remplacer. Presque tous les fournisseurs renvoient donc un seul refus vague pour les trois causes, et il en résulte qu'un utilisateur légitime avec une consigne inoffensive reçoit le même message opaque que celui qui cherche des failles.

Le compromis se défend et il est franchement désagréable à subir. Il explique aussi pourquoi tant de conseils de prompt en ligne relèvent du folklore : les gens cherchent des motifs dans un système invisible et se transmettent des rituels qui ont marché une fois.

La seule habitude qui survit aux trois couches

Ne nommez jamais ce que vous ne voulez pas dans l'image. Écrire « pas de nudité » met la nudité dans la consigne, où la couche un peut la repérer, la couche deux la pondère, et la couche trois finit par la chercher. Les modèles d'images n'ont pas de notion fiable de la négation : un négatif est lu comme un sujet.

Nous l'avons appris dans notre propre système, pas dans un article. Une version ancienne de l'instruction que nous plaçons avant chaque génération nommait un attribut physique pour le préserver, disant en substance qu'une personne était chauve. Le modèle a lu cela comme une chose à dessiner et s'est mis à produire des personnes chauves dans des conversations avec des personnages qui ont des cheveux. Le correctif a été de cesser complètement de nommer des valeurs d'attributs. L'ensemble des habitudes qui en découlent est dans écrire des prompts NSFW que l'IA rend vraiment, et la version anime dans pourquoi le style anime vous résiste.

Ce que nous faisons à la place

Deux choses sont refusées chez Fellowi et le resteront : tout contenu sexuel impliquant des mineurs, et toute représentation d'un rapport non consenti. C'est toute la liste, ce n'est pas un curseur, et aucune formule ne l'ouvre. Tout le reste entre adultes est autorisé, et c'est précisément pour cela que cela ne nous coûte rien d'énoncer les limites aussi simplement.

Pour tout ce qui ne relève pas de ces deux points, le principe est qu'un échec ne doit jamais vous coûter. Si une consigne ne revient pas, nous réessayons une fois avec une version adoucie de votre propre texte, et si cela échoue aussi, les pièces retournent automatiquement dans votre portefeuille. Vous ne payez pas pour le droit de deviner. C'est cette seule règle qui fait de la réécriture la réponse rationnelle à un refus, au lieu de garder ses idées pour soi et d'essayer la version la moins intéressante de chacune.

Si vous vous battez avec un générateur qui refuse de dire ce qu'il vous reproche, le test honnête est d'aller demander ce que vous vouliez vraiment : ouvrez le générateur, ou lisez d'abord notre politique en clair sur la page du générateur 18+.