Dlaczego generatory obrazów ci odmawiają i co się tam naprawdę dzieje

Jest szczególny rodzaj frustracji, który zdarza się tylko przy generatorach obrazów. Piszesz coś, wraca pustka albo komunikat tak nijaki, że mógłby znaczyć wszystko, i nie masz pojęcia, czy poprosiłeś o coś zakazanego, źle to sformułowałeś, czy trafiłeś na błąd. Więc zmieniasz losowe słowo i próbujesz znowu. Czasem to działa, a to najgorszy możliwy wynik, bo właśnie nauczyłeś się przesądu zamiast faktu.

Warto zrozumieć, że „generator mi odmówił” opisuje co najmniej trzy zupełnie różne systemy, zbudowane przez różnych ludzi z różnych powodów i psujące się na różne sposoby. Kiedy nauczysz się je rozróżniać, większość tajemnicy znika, a spora część odmów okazuje się do naprawienia.

Warstwa pierwsza: lista zakazanych słów

Najtańszy filtr działa zanim cokolwiek zostanie wygenerowane. Czyta twój tekst, porównuje go z listą słów i wzorców i odrzuca od razu przy trafieniu. To ta warstwa daje natychmiastowe odmowy, zwykle w sekundę po kliknięciu, i to ją najczęściej udaje się obejść zmianą słownictwa.

Jest też najbardziej prymitywna. Listy nie czytają kontekstu, więc łapią ogrom całkiem niewinnej pracy: terminy anatomiczne w ilustracji medycznej, zwykłe słowa będące gdzieś slangiem, imiona postaci kolidujące z czymś niezwiązanym. Każdy, kto próbował wygenerować sklep mięsny albo zajęcia z rysunku z modela, tę warstwę poznał.

Poznasz ją po szybkości i powtarzalności. Jeśli zapytanie jest odrzucane natychmiast i za każdym razem dokładnie tak samo, niemal na pewno zahaczasz o filtr tekstowy, a nie o cokolwiek związanego z obrazem.

Warstwa druga: sam model

Druga warstwa w ogóle nie jest filtrem i dlatego zachowuje się tak dziwnie. Dzisiejsze modele trenuje się z preferencją dla jednych wyników i niechęcią do innych, więc prośba, od której model odciągnięto, nie zostaje odrzucona, tylko po cichu pogorszona. Prosiłeś o jedno, a dostałeś sąsiednie: bledsze, bardziej ubrane, bardziej niejednoznaczne. Nic się nie ogłosiło. Po prostu obraz wyszedł gorzej i nie umiesz powiedzieć dlaczego.

To ta warstwa sprawia, że ludzie myślą, iż źle piszą prompty. W pewnym sensie nie mylą się, ale problemem nie jest ich słownictwo. Model z nimi negocjuje i ma ostatnie słowo.

Jest też najtrudniejsza do usunięcia. Listę słów dostawca kasuje w jedno popołudnie. Cofnięcie treningu to inny rząd wielkości i dlatego nawet naprawdę pobłażliwe narzędzia czasem stawiają opór, a słowo „bez cenzury” warto czytać uważnie. Co może znaczyć uczciwie, opisaliśmy w tekście o tym, co naprawdę znaczy generator bez cenzury.

Warstwa trzecia: klasyfikator patrzący na wynik

Trzecia warstwa działa, gdy obraz już istnieje. Osobny model ogląda gotowy render, ocenia go i blokuje dostarczenie, jeśli ocena przekroczy granicę. Zapłaciłeś za render, render się odbył, a potem coś innego zdecydowało, że go nie dostaniesz.

Ta warstwa tłumaczy najbardziej doprowadzające do szału zachowanie w całej kategorii: to samo zapytanie przechodzi we wtorek i pada w czwartek. Generowanie jest losowe. Puść zapytanie dwa razy, a dostaniesz dwa różne obrazy. Jeśli twoja prośba leży gdzieś przy progu klasyfikatora, jeden go przekroczy, a drugi nie. Nie zrobiłeś nic inaczej. Inaczej padły kości.

Jeśli kiedyś byłeś przekonany, że serwis po cichu zacisnął filtry w nocy, zwykle działo się właśnie to. Czasem dostawcy naprawdę zaciskają. O wiele częściej byłeś cały czas na krawędzi i zauważyłeś to w dniu, w którym dwa razy z rzędu wylądowałeś po złej stronie.

Dlaczego nikt nie mówi, która warstwa cię złapała

Bo konkretny komunikat błędu to instrukcja obejścia filtra. Powiedz komuś „słowo X zostało zablokowane”, a nauczyłeś go dokładnie, co podmienić. Dlatego prawie każdy dostawca zwraca jedną mglistą odmowę dla wszystkich trzech przyczyn, a w efekcie uczciwy użytkownik z nieszkodliwym zapytaniem dostaje ten sam nieprzenikniony komunikat co ktoś szukający dziur.

To dający się obronić kompromis i naprawdę nieprzyjemny dla odbierającego. Tłumaczy też, dlaczego tyle porad o promptach w sieci to folklor: ludzie dopasowują wzorce do niewidzialnego systemu i przekazują sobie rytuały, które kiedyś zadziałały.

Jeden nawyk, który przeżywa wszystkie trzy warstwy

Nigdy nie nazywaj tego, czego nie chcesz na obrazie. „Bez nagości” wkłada nagość do zapytania, gdzie pierwsza warstwa może ją dopasować, druga ją zważy, a trzecia w końcu zacznie jej szukać. Modele obrazu nie mają pewnego pojęcia negacji, więc negacja czytana jest jak temat.

Dowiedzieliśmy się tego we własnym systemie, nie z artykułu. Wczesna wersja instrukcji, którą doklejamy przed każdym generowaniem, nazywała cechę fizyczną, żeby ją zachować, mówiąc w praktyce, że osoba jest łysa. Model odczytał to jako coś do narysowania i zaczął wypuszczać łyse postacie w rozmowach z bohaterami, którzy mają włosy. Naprawiliśmy to, przestając nazywać wartości cech w ogóle. Cały zestaw wynikających stąd nawyków jest w tekście o promptach NSFW, które naprawdę się renderują, a wersja dla anime w tekście o tym, dlaczego styl anime stawia opór.

Co robimy zamiast tego

W Fellowi odrzucane są dwie rzeczy i tak zostanie: wszystko o charakterze seksualnym z udziałem nieletnich oraz wszystko, co przedstawia brak zgody. To cała lista, to nie pokrętło i żaden plan tego nie otwiera. Cała reszta między dorosłymi jest dozwolona i właśnie dlatego nic nas nie kosztuje nazwanie granic tak wprost.

Dla wszystkiego, co nie jest jedną z tych dwóch rzeczy, zasada brzmi: awaria nigdy nie powinna cię kosztować. Jeśli zapytanie nie wraca, próbujemy raz z łagodniejszą wersją twoich własnych słów, a jeśli i to zawiedzie, monety wracają do portfela automatycznie. Nie płacisz za prawo do zgadywania. Ta jedna zasada sprawia, że przepisanie zapytania jest rozsądną odpowiedzią na odmowę, zamiast oszczędzania pomysłów i próbowania najnudniejszej wersji każdego z nich.

Jeśli walczyłeś z generatorem, który nie mówi, co mu przeszkadza, uczciwy test jest jeden: poproś o to, czego naprawdę chciałeś. Otwórz generator albo najpierw przeczytaj naszą politykę zwykłym językiem na stronie generatora 18+.