Ist NSFW-Generierung mit KI legal? Ein klarer Überblick, wo die Grenzen liegen

Der Vorbehalt kommt zuerst, weil er hier mehr zählt als irgendwo sonst in diesem Blog: Das ist eine allgemeine Information, keine Rechtsberatung. Gesetze zu Erwachseneninhalten unterscheiden sich von Land zu Land, manchmal sogar zwischen Regionen desselben Landes, und die Regeln zu KI-generiertem Material ändern sich schneller, als ein Artikel mithalten kann. Wenn das, was Sie vorhaben, wirklich wichtig ist, fragen Sie eine Anwältin oder einen Anwalt dort, wo Sie leben.

Abgesehen davon besteht die Frage "ist das legal" eigentlich aus mehreren Fragen mit sehr unterschiedlichen Antworten, und es hilft, sie einzeln anzugehen.

Erwachsene Fiktion, von Erwachsenen, für sich selbst

In vielen Ländern macht sich eine erwachsene Person nicht strafbar, wenn sie für den privaten Gebrauch sexuelle Bilder fiktiver Erwachsener erzeugt. Niemand Echtes ist abgebildet, niemand wird geschädigt, und das Material verlässt Ihre Hände nicht. Das ist der häufigste Fall und vielerorts der rechtlich am wenigsten spannende.

Aber viele heißt nicht alle. Manche Länder schränken Pornografie ein oder verbieten sie ganz, manche verpflichten Erwachsenenseiten zur Altersprüfung, und manche behandeln Erstellen, Besitzen und Teilen unterschiedlich. Unsere Bedingungen sagen es deutlich: Fellowi enthält Inhalte für Erwachsene, Sie sind dafür verantwortlich, ob deren Nutzung dort, wo Sie sind, rechtmäßig ist, und dass wir kein Land sperren, ist keine Aussage darüber, dass der Dienst überall rechtmäßig ist.

Die Grenzen, die fast überall gelten

Zwei Kategorien sind in praktisch jedem Rechtssystem verboten oder streng beschränkt, und sie werden hier ausnahmslos abgelehnt. Das sind keine Einstellungen, und kein Plan schaltet sie frei.

• Alles Sexuelle mit Minderjährigen. Dazu gehören Figuren, die als Kinder oder Jugendliche beschrieben oder gezeichnet sind, egal welches Alter der Prompt ihnen zuschreibt, und Age-Play. In vielen Ländern erfasst das Gesetz auch gezeichnete, animierte und generierte Bilder, nicht nur Fotos, und "das ist doch keine echte Person" ist nicht die Verteidigung, für die viele es halten.
• Fehlende Einwilligung. Sexuelle Inhalte, die darauf aufbauen, dass jemand nicht zustimmt. Die Rechtslage ist hier uneinheitlicher als bei Minderjährigen, aber Plattformen und Zahlungsanbieter behandeln es fast überall als harte Grenze, und wir auch.

Echte Menschen: der Bereich, der sich am schnellsten ändert

Sexuelle Bilder einer echten, erkennbaren Person ohne deren Einwilligung, meist Deepfakes oder nicht einvernehmliche intime Bilder genannt, sind der Bereich, in dem sich das Recht am schnellsten bewegt. Immer mehr Länder haben ihre Erstellung oder Verbreitung unter Strafe gestellt, andere arbeiten an Regeln, und selbst wo es noch kein eigenes Gesetz gibt, kann die abgebildete Person Ansprüche wegen Privatsphäre, Belästigung oder der Nutzung ihres Bildnisses haben.

Unsere Bedingungen gehen weiter als "ohne Einwilligung". Sie verpflichten sich, überhaupt keine sexuellen oder intimen Bilder einer echten, erkennbaren Person zu erzeugen und keine Deepfakes von ihr zu erstellen. Wenn Sie ein Foto als Startbild für ein Video hochladen, muss es Sie selbst zeigen, oder Sie brauchen die Erlaubnis der abgebildeten Person und die Rechte zur Nutzung. Und wenn Sie synthetische Medien veröffentlichen, die eine echte Person zeigen, kann es Ihre rechtliche Pflicht sein, sie als synthetisch zu kennzeichnen.

Wer Inhalte findet, die ihn ohne Einwilligung zeigen, kann sie uns auch ohne Konto melden, und Meldungen zu ohne Einwilligung veröffentlichten intimen Bildern behandeln wir als dringend.

Privater Gebrauch und Veröffentlichung sind verschiedene Fragen

Etwas für sich selbst zu machen und es anderen zu zeigen, wird unterschiedlich bewertet, vom Gesetz ebenso wie von Plattformen. Wer Erwachseneninhalte teilt, verkauft oder postet, kann unter Regeln zu Verbreitung, Altersprüfung und Kennzeichnung fallen, die den privaten Gebrauch nie berühren.

Plattformregeln sind meist strenger als das Gesetz. Instagram, TikTok und die meisten großen sozialen Netzwerke erlauben keine sexuellen Inhalte, ob legal oder nicht, und ein Konto kann deswegen Reichweite verlieren oder ganz verschwinden. Wenn Ergebnisse für Erwachsene überhaupt veröffentlicht werden, gehören sie auf Plattformen, die für solche Inhalte gemacht sind, hinter deren eigener Altersprüfung.

Eigentum und Privatsphäre sind eigene Fragen

Ob etwas legal erstellt werden darf, sagt nichts darüber, wem es gehört. Ob jemand ein Urheberrecht an einem rein KI-generierten Bild hat, ist in mehreren Ländern ungeklärt, und das behandelt ein eigener Artikel: wem ein KI-generiertes Bild gehört. Kurz gesagt: Wir beanspruchen kein Eigentum an dem, was Sie erzeugen.

Legal ist auch nicht dasselbe wie privat. Wo Ihre Generierungen gespeichert werden, wer sie öffnen kann und wie lange sie bleiben, steht in wer sieht, was Sie erzeugen.

Warum eine Ablehnung auch Sie schützt

Ein blockierter Prompt ist ärgerlich, besonders wenn hinter dem Wort, an dem er hängen blieb, gar keine Absicht stand. Aber die harten Ablehnungen eines Generators decken sich ziemlich genau mit den Kategorien, die der tippenden Person echten Ärger einbringen können: Minderjährige, fehlende Einwilligung, echte Menschen. Eine Ablehnung an dieser Stelle ist ein weit günstigerer Ausgang als die Alternative.

Wie die verschiedenen Ebenen der Ablehnung funktionieren und warum keine verrät, welche Sie aufgehalten hat, steht in warum KI-Bildgeneratoren ablehnen. Eines sollten Sie vorab wissen: Eine Anfrage umzuformulieren, um die Filter zu umgehen, ist selbst ein Verstoß gegen unsere Bedingungen.

Was Fellowi tut und was bei Ihnen bleibt

• Nur ab 18. Fellowi ist für Menschen, die dort, wo sie leben, volljährig sind. Das Alter wird bei der Anmeldung selbst angegeben, und wir prüfen es nicht anhand eines Dokuments. Eine falsche Angabe verstößt gegen die Bedingungen, und wir schließen das Konto, wenn wir davon erfahren.
• Harte Ablehnungen. Sexuelle Inhalte mit Minderjährigen oder Age-Play und Inhalte, die fehlende Einwilligung darstellen, werden überall abgelehnt: im Chat, im Studio und über die API.
• Was geprüft wird und was nicht. Ihr Prompt durchläuft eine automatische Prüfung seiner Formulierung, bevor er weitergeleitet wird, und der Generierungsanbieter wendet seine eigene Moderation an. Das fertige Bild oder Video prüft niemand, weder von Hand noch automatisch, deshalb kann die Prüfung nicht garantieren, was ein Modell ausgibt.
• Alles andere liegt bei Ihnen. Ob eine bestimmte Nutzung dort, wo Sie sind, rechtmäßig ist und ob Sie die Rechte an einem hochgeladenen Foto haben, liegt laut den Bedingungen in Ihrer Verantwortung.

Der letzte Punkt ist die ehrliche Grenze. Wir können ablehnen, was klar über der Linie liegt, aber wir können Ihnen nicht sagen, was in Ihrem Land legal ist, und kein Generator kann das. Wenn Sie erwachsen sind und das, was Sie erstellen möchten, deutlich innerhalb dieser Grenzen liegt, finden Sie das Studio bei Fellowi Images, und die vollständigen Regeln stehen in den Nutzungsbedingungen.