Is NSFW genereren met AI legaal? Een heldere gids over waar de grenzen liggen

Het voorbehoud komt eerst, omdat het hier zwaarder weegt dan waar dan ook op deze blog: dit is algemene informatie, geen juridisch advies. Wetten over content voor volwassenen verschillen per land, soms zelfs per regio binnen één land, en de regels over door AI gemaakt materiaal veranderen sneller dan welk artikel ook kan bijhouden. Als wat je van plan bent er echt toe doet, vraag het dan aan een advocaat waar je woont.

Dat gezegd hebbende: de vraag "is het legaal" bestaat eigenlijk uit een paar vragen met heel verschillende antwoorden, en het helpt om ze een voor een te bekijken.

Fictie voor volwassenen, door volwassenen, voor jezelf

In veel landen pleegt een volwassene geen strafbaar feit door voor privégebruik seksuele beelden van fictieve volwassenen te genereren. Er staat niemand echt op, niemand wordt geschaad en het materiaal verlaat jouw handen niet. Dat is het meest voorkomende geval, en op veel plekken juridisch het minst interessante.

Maar veel is niet alle. Sommige landen beperken pornografie of verbieden die helemaal, sommige verplichten sites voor volwassenen om leeftijd te controleren, en sommige behandelen maken, bezitten en delen verschillend. Onze voorwaarden zeggen het duidelijk: Fellowi bevat content voor volwassenen, jij bent verantwoordelijk voor de vraag of het gebruik daarvan legaal is waar je bent, en dat wij geen enkel land blokkeren betekent niet dat de dienst overal legaal is.

De grenzen die bijna overal gelden

Twee categorieën zijn in vrijwel elk rechtssysteem illegaal of streng beperkt, en ze worden hier zonder uitzondering geweigerd. Het zijn geen instellingen, en geen enkel plan maakt ze vrij.

• Alles wat seksueel is met minderjarigen. Dat omvat personages die als kinderen of tieners worden beschreven of getekend, welke leeftijd de prompt ze ook geeft, en age-play. In veel landen geldt de wet ook voor getekende, geanimeerde en gegenereerde beelden, niet alleen voor foto's, dus "het is geen echt persoon" is niet de verdediging die mensen denken dat het is.
• Gebrek aan instemming. Seksuele content die draait om iemand die niet instemt. De wet verschilt hier meer dan bij minderjarigen, maar platforms en betaalproviders behandelen het bijna overal als harde grens, en wij ook.

Echte mensen: het deel dat het snelst verandert

Seksuele beelden van een echte, herkenbare persoon die zonder diens toestemming zijn gemaakt, meestal deepfakes of niet-consensuele intieme beelden genoemd, vormen het gebied waar het recht het snelst beweegt. Steeds meer landen hebben het maken of verspreiden ervan strafbaar gesteld, andere werken aan regels, en ook waar nog geen specifieke wet bestaat, kan de afgebeelde persoon aanspraken hebben op grond van privacy, intimidatie of het gebruik van diens portret.

Onze voorwaarden gaan verder dan "zonder toestemming". Je stemt ermee in om helemaal geen seksuele of intieme beelden van een echte, herkenbare persoon te genereren en geen deepfakes van iemand te maken. Als je een foto uploadt als startbeeld voor een video, moet die van jou zijn, of moet je toestemming hebben van de afgebeelde persoon en de rechten om hem te gebruiken. En als je synthetische media publiceert waarop een echte persoon te zien is, kan het een wettelijke plicht voor jou zijn om te vermelden dat ze synthetisch zijn.

Wie content vindt waarop die persoon zonder toestemming te zien is, kan dat zonder account bij ons melden, en meldingen van intieme beelden die zonder toestemming zijn gepubliceerd behandelen we met spoed.

Privégebruik en publiceren zijn verschillende vragen

Iets voor jezelf maken en het aan anderen laten zien worden anders beoordeeld, door de wet en door platforms. Content voor volwassenen delen, verkopen of posten kan regels over verspreiding, leeftijdscontrole en labeling in beeld brengen die privégebruik nooit raakt.

Platformregels zijn meestal strenger dan de wet. Instagram, TikTok en de meeste grote sociale netwerken staan geen seksuele content toe, legaal of niet, en een account kan er bereik door verliezen of verdwijnen. Als resultaten voor volwassenen al gepubliceerd worden, horen ze thuis op platforms die voor zulke content gemaakt zijn, achter hun eigen leeftijdscontrole.

Eigendom en privacy zijn aparte vragen

Of iets legaal gemaakt mag worden, zegt niets over wie het bezit. Of iemand auteursrecht heeft op een beeld dat volledig door AI is gemaakt, is in meerdere landen niet uitgemaakt, en dat komt apart aan bod in van wie is een door AI gemaakt beeld. Kort gezegd: wij claimen geen eigendom van wat jij genereert.

Legaal is ook niet hetzelfde als privé. Waar je generaties worden opgeslagen, wie ze kan openen en hoe lang ze bewaard blijven, lees je in wie kan zien wat je genereert.

Waarom een weigering jou ook beschermt

Een geblokkeerde prompt is irritant, zeker als er achter het woord waarop hij strandde geen enkele bedoeling zat. Maar de harde weigeringen van een generator vallen vrijwel samen met de categorieën die de persoon achter het toetsenbord echt in de problemen kunnen brengen: minderjarigen, gebrek aan instemming, echte mensen. Een weigering op dat punt is een veel goedkopere uitkomst dan het alternatief.

Hoe de verschillende lagen van weigering werken, en waarom geen ervan vertelt welke jou tegenhield, staat in waarom AI-beeldgeneratoren weigeren. Eén ding is goed om vooraf te weten: een verzoek herformuleren om de filters te omzeilen is op zich al een schending van onze voorwaarden.

Wat Fellowi doet, en wat bij jou blijft

• Alleen voor meerderjarigen. Fellowi is voor mensen die meerderjarig zijn waar ze wonen. Je leeftijd geef je zelf op bij de aanmelding en wij controleren die niet aan de hand van een document. Een valse opgave is een schending van de voorwaarden, en we sluiten het account als we ervan horen.
• Harde weigeringen. Seksuele content met minderjarigen of age-play, en content die gebrek aan instemming toont, worden overal geweigerd: in de chat, in de studio en via de API.
• Wat wel en niet wordt gecontroleerd. Je prompt gaat door een automatische controle op formulering voordat er iets wordt doorgestuurd, en de generatieprovider past zijn eigen moderatie toe. Niemand bekijkt het uiteindelijke beeld of de video, met de hand of automatisch, dus de controle kan niet garanderen wat een model maakt.
• De rest ligt bij jou. Of een bepaald gebruik legaal is waar je bent, en of je de rechten hebt op een foto die je uploadt, is volgens de voorwaarden jouw verantwoordelijkheid.

Dat laatste punt is de eerlijke beperking. We kunnen weigeren wat duidelijk over de grens gaat, maar we kunnen je niet vertellen wat in jouw land legaal is, en geen enkele generator kan dat. Ben je volwassen en valt wat je wilt maken ruim binnen die grenzen, dan vind je de studio op Fellowi Images, en de volledige regels staan in de gebruiksvoorwaarden.