Är det lagligt att generera NSFW med AI? En enkel guide till var gränserna går

Förbehållet kommer först, eftersom det väger tyngre här än någon annanstans på den här bloggen: det här är allmän information, inte juridisk rådgivning. Lagar om vuxeninnehåll skiljer sig mellan länder, ibland till och med mellan regioner i samma land, och reglerna om AI-genererat material förändras snabbare än någon artikel hinner med. Om det du planerar verkligen spelar roll, fråga en jurist där du bor.

Med det sagt är frågan "är det lagligt" egentligen flera frågor med mycket olika svar, och det hjälper att ta dem en i taget.

Vuxenfiktion, gjord av vuxna, för dig själv

I många länder begår en vuxen inget brott genom att generera sexuella bilder av fiktiva vuxna för privat bruk. Ingen verklig person avbildas, ingen skadas och materialet lämnar aldrig dina händer. Det är det vanligaste fallet, och på många håll det juridiskt minst intressanta.

Men många är inte alla. Vissa länder begränsar eller förbjuder pornografi helt, vissa kräver att vuxensajter kontrollerar ålder, och vissa behandlar att skapa, inneha och dela på olika sätt. Våra villkor säger det rakt ut: Fellowi innehåller vuxeninnehåll, du ansvarar för om användningen är laglig där du befinner dig, och att vi inte blockerar något land betyder inte att tjänsten är laglig överallt.

Gränserna som gäller nästan överallt

Två kategorier är olagliga eller hårt begränsade i praktiskt taget varje rättssystem, och här nekas de utan undantag. Det är inga inställningar, och ingen plan låser upp dem.

• Allt sexuellt som involverar minderåriga. Det omfattar karaktärer som beskrivs eller tecknas som barn eller tonåringar, vilken ålder prompten än påstår att de har, och age-play. I många länder omfattar lagen även tecknade, animerade och genererade bilder, inte bara fotografier, så "det är ingen verklig person" är inte det försvar man tror.
• Bristande samtycke. Sexuellt innehåll som bygger på att någon inte går med på det. Lagarna skiljer sig mer här än när det gäller minderåriga, men plattformar och betaltjänster behandlar det nästan överallt som en absolut gräns, och det gör vi också.

Verkliga personer: det som förändras snabbast

Sexuella bilder av en verklig, identifierbar person som skapats utan personens samtycke, oftast kallade deepfakes eller intima bilder utan samtycke, är där lagstiftningen rör sig snabbast. Allt fler länder har gjort det brottsligt att skapa eller sprida dem, andra arbetar fram regler, och även där det ännu inte finns någon särskild lag kan den avbildade personen ha anspråk som rör integritet, trakasserier eller användningen av sitt utseende.

Våra villkor går längre än "utan samtycke". Du förbinder dig att inte alls generera sexuella eller intima bilder av en verklig, identifierbar person och att inte skapa deepfakes av någon. Om du laddar upp ett foto som startbild för en video måste det föreställa dig, eller så behöver du den avbildade personens tillåtelse och rätten att använda det. Och om du publicerar syntetiska medier som visar en verklig person kan det vara en rättslig skyldighet för dig att tala om att de är syntetiska.

Den som hittar innehåll som avbildar en själv utan samtycke kan rapportera det till oss utan konto, och rapporter om intima bilder som publicerats utan samtycke hanteras som brådskande.

Privat bruk och publicering är olika frågor

Att göra något för sig själv och att visa det för andra bedöms olika, både av lagen och av plattformar. Att dela, sälja eller lägga upp vuxenmaterial kan föra in regler om spridning, ålderskontroll och märkning som privat bruk aldrig berör.

Plattformarnas regler är oftast strängare än lagen. Instagram, TikTok och de flesta stora sociala nätverk tillåter inte sexuellt innehåll, lagligt eller inte, och ett konto kan förlora räckvidd eller försvinna på grund av det. Om vuxenresultat ska publiceras alls hör de hemma på plattformar som är byggda för sådant innehåll, bakom deras egen ålderskontroll.

Ägande och integritet är separata frågor

Att något är lagligt att skapa säger ingenting om vem som äger det. Om någon har upphovsrätt till en bild som helt genererats av AI är oavgjort i flera länder, och det tas upp separat i vem äger en AI-genererad bild. Kort sagt: vi gör inga anspråk på det du genererar.

Lagligt är inte heller samma sak som privat. Var dina genereringar lagras, vem som kan öppna dem och hur länge de finns kvar förklaras i vem kan se det du genererar.

Varför ett nej också skyddar dig

En blockerad prompt är irriterande, särskilt när ordet som stoppade den inte bar på någon avsikt alls. Men en generators absoluta nej sammanfaller nästan exakt med de kategorier som kan ge personen vid tangentbordet verkliga problem: minderåriga, bristande samtycke, verkliga personer. Ett nej just där är ett mycket billigare utfall än alternativet.

Hur de olika lagren av nej fungerar, och varför inget av dem säger vilket som stoppade dig, finns i varför AI-bildgeneratorer säger nej. En sak är bra att veta från början: att formulera om en begäran för att ta sig förbi filtren är i sig ett brott mot våra villkor.

Vad Fellowi gör, och vad som ligger kvar hos dig

• Endast för myndiga. Fellowi är för personer som är myndiga där de bor. Åldern uppges av dig själv vid registreringen och vi kontrollerar den inte mot någon handling. Att uppge fel ålder bryter mot villkoren, och vi stänger kontot om vi får veta det.
• Absoluta nej. Sexuellt innehåll med minderåriga eller age-play, och innehåll som skildrar bristande samtycke, nekas överallt: i chatten, i studion och via API:t.
• Vad som kontrolleras och vad som inte gör det. Din prompt passerar en automatisk granskning av formuleringen innan något skickas vidare, och genereringsleverantören tillämpar sin egen moderering. Ingen granskar den färdiga bilden eller videon, varken för hand eller automatiskt, så granskningen kan inte garantera vad en modell producerar.
• Resten är ditt ansvar. Om en viss användning är laglig där du befinner dig, och om du har rätt till ett foto du laddar upp, är enligt villkoren ditt ansvar.

Den sista punkten är den ärliga begränsningen. Vi kan säga nej till det som tydligt går över gränsen, men vi kan inte tala om för dig vad som är lagligt i ditt land, och det kan ingen generator. Om du är vuxen och det du vill skapa ligger väl innanför de gränserna finns studion på Fellowi Images, och alla regler står i användarvillkoren.