AI로 NSFW를 생성하는 것은 합법일까? 선이 어디에 그어져 있는지 쉽게 정리했습니다

단서부터 먼저 달겠습니다. 이 블로그의 어떤 글보다 여기서 더 중요하기 때문입니다. 이 글은 일반적인 정보이며 법률 자문이 아닙니다. 성인 콘텐츠에 관한 법은 나라마다 다르고, 같은 나라 안에서도 지역마다 다를 때가 있으며, AI가 생성한 자료에 관한 규칙은 어떤 글도 따라잡지 못할 만큼 빠르게 바뀌고 있습니다. 하려는 일이 정말 중요하다면 거주하는 곳의 변호사에게 문의하세요.

그렇다고 해도 "합법인가"라는 질문은 사실 답이 전혀 다른 여러 질문으로 나뉘며, 하나씩 살펴보는 편이 이해하기 쉽습니다.

성인이 자신을 위해 만드는 성인용 픽션

많은 나라에서 성인이 개인적인 용도로 가상의 성인을 그린 성적 이미지를 생성하는 것은 범죄가 아닙니다. 실존 인물이 그려지지 않고, 아무도 피해를 입지 않으며, 자료가 당신의 손을 떠나지 않습니다. 가장 흔한 경우이고, 많은 곳에서 법적으로 가장 논란이 적은 경우입니다.

하지만 많은 나라가 모든 나라는 아닙니다. 포르노를 제한하거나 전면 금지하는 나라도 있고, 성인 사이트에 연령 확인을 의무화한 나라도 있으며, 만드는 것과 소지하는 것과 공유하는 것을 각각 다르게 다루는 나라도 있습니다. Fellowi의 이용약관은 이를 분명히 밝힙니다. Fellowi에는 성인 콘텐츠가 있고, 당신이 있는 곳에서 그 이용이 합법인지는 당신의 책임이며, 우리가 어느 나라도 차단하지 않는다는 사실이 서비스가 어디서나 합법이라는 뜻은 아니라는 것입니다.

거의 모든 곳에서 통하는 선

거의 모든 법체계에서 불법이거나 엄격하게 제한되는 범주가 두 가지 있으며, 여기서는 예외 없이 거부됩니다. 이것은 설정이 아니며 어떤 플랜으로도 풀리지 않습니다.

• 미성년자가 관련된 모든 성적 내용. 프롬프트가 몇 살이라고 주장하든, 어린이나 십대로 묘사되거나 그려진 캐릭터가 포함되며 에이지 플레이도 마찬가지입니다. 많은 나라에서 법은 사진뿐 아니라 그림, 애니메이션, 생성된 이미지까지 다룹니다. 그래서 "실존 인물이 아니다"는 사람들이 생각하는 것만큼의 변명이 되지 않습니다.
• 동의 없는 내용. 누군가가 동의하지 않는다는 것을 중심으로 한 성적 내용입니다. 미성년자의 경우보다 법의 차이는 크지만, 플랫폼과 결제 사업자는 거의 예외 없이 이를 넘을 수 없는 선으로 다루며 우리도 마찬가지입니다.

실존 인물: 가장 빠르게 바뀌는 부분

실존하는 식별 가능한 인물의 성적 이미지를 본인 동의 없이 만드는 것, 흔히 딥페이크나 동의 없는 성적 이미지라고 부르는 것은 법이 가장 빠르게 움직이는 분야입니다. 제작이나 유포를 범죄로 정한 나라가 늘고 있고, 규정을 준비하는 나라도 있으며, 아직 별도의 법이 없는 곳에서도 묘사된 사람이 사생활, 괴롭힘, 초상 사용을 근거로 권리를 주장할 수 있습니다.

Fellowi 이용약관은 "동의 없이"보다 한발 더 나아갑니다. 실존하는 식별 가능한 인물의 성적이거나 친밀한 이미지를 아예 생성하지 않고, 그 인물의 딥페이크를 만들지 않는 데 동의하셔야 합니다. 영상의 시작 프레임으로 사진을 업로드한다면 그 사진은 당신 자신이어야 하거나, 사진 속 인물의 허락과 그 사진을 사용할 권리가 있어야 합니다. 그리고 실존 인물이 등장하는 합성 미디어를 공개한다면, 그것이 합성임을 밝히는 것이 법적 의무일 수 있습니다.

자신이 동의 없이 묘사된 콘텐츠를 발견한 사람은 계정이 없어도 우리에게 신고할 수 있으며, 동의 없이 공개된 친밀한 이미지에 대한 신고는 긴급 사안으로 처리합니다.

개인적 이용과 공개는 별개의 문제

자신을 위해 무언가를 만드는 것과 그것을 다른 사람에게 보여 주는 것은 법에서도 플랫폼에서도 다르게 판단됩니다. 성인용 자료를 공유하거나 판매하거나 게시하면, 개인적 이용에서는 상관없던 유포, 연령 확인, 표시에 관한 규칙이 적용될 수 있습니다.

플랫폼의 규칙은 대개 법보다 엄격합니다. Instagram, TikTok, 그리고 대부분의 대형 소셜 네트워크는 합법 여부와 상관없이 성적 콘텐츠를 허용하지 않으며, 그 때문에 계정의 노출이 줄거나 계정이 사라질 수 있습니다. 성인용 결과물을 공개한다면, 성인 콘텐츠를 위해 만들어지고 자체 연령 확인을 갖춘 플랫폼이 그 자리입니다.

소유권과 프라이버시는 별개의 문제

만드는 것이 합법인지는 그것이 누구의 것인지에 대해 아무것도 말해 주지 않습니다. 순전히 AI로 생성한 그림에 누군가 저작권을 가지는지는 여러 나라에서 아직 정리되지 않았으며, 이 문제는 AI가 생성한 이미지는 누구의 것인가에서 따로 다룹니다. 요약하면, 우리는 당신이 생성한 것에 대해 소유권을 주장하지 않습니다.

그리고 합법이라는 것이 사적으로 보호된다는 뜻은 아닙니다. 생성물이 어디에 저장되고, 누가 열어 볼 수 있으며, 얼마나 오래 남는지는 생성한 것을 누가 볼 수 있는가에서 설명합니다.

거부가 당신을 보호하기도 하는 이유

프롬프트가 막히면 짜증이 납니다. 걸린 단어에 아무 의도가 없었다면 더욱 그렇습니다. 하지만 생성기가 절대 허용하지 않는 범주는 입력하는 사람을 실제 곤경에 빠뜨릴 수 있는 범주와 거의 정확히 겹칩니다. 미성년자, 동의 없는 내용, 실존 인물입니다. 그 지점에서 거부당하는 편이 그 반대보다 훨씬 덜 비쌉니다.

여러 단계의 거부가 어떻게 작동하는지, 그리고 왜 어느 단계에서 막혔는지 알려 주지 않는지는 AI 이미지 생성기가 거부하는 이유에 정리해 두었습니다. 미리 알아 두면 좋은 점이 하나 있습니다. 필터를 피하려고 요청의 표현을 바꾸는 것 자체가 이용약관 위반입니다.

Fellowi가 하는 일과 당신에게 남는 일

• 18세 이상만. Fellowi는 거주하는 곳에서 성인으로 인정되는 나이에 이른 사람을 위한 서비스입니다. 나이는 가입할 때 스스로 밝히며, 우리는 서류로 확인하지 않습니다. 거짓 신고는 약관 위반이며, 알게 되면 계정을 닫습니다.
• 절대 거부하는 것. 미성년자가 관련된 성적 내용이나 에이지 플레이, 동의 없음을 묘사한 내용은 채팅에서도, 스튜디오에서도, API를 통해서도 어디서나 거부됩니다.
• 확인되는 것과 확인되지 않는 것. 프롬프트는 어딘가로 전송되기 전에 표현에 대한 자동 검사를 거치고, 생성 공급자도 자체 검토를 적용합니다. 완성된 이미지나 영상은 사람도 자동 시스템도 검토하지 않으므로, 검사가 모델의 출력을 보장할 수는 없습니다.
• 나머지는 당신의 몫입니다. 특정 이용이 당신이 있는 곳에서 합법인지, 업로드하는 사진에 대한 권리가 있는지는 약관상 당신의 책임입니다.

마지막 항목이 솔직하게 밝혀야 할 한계입니다. 명백히 선을 넘는 것은 거부할 수 있지만, 당신의 나라에서 무엇이 합법인지는 우리도, 어떤 생성기도 알려 줄 수 없습니다. 당신이 성인이고 만들고 싶은 것이 이 선의 충분히 안쪽에 있다면, 스튜디오는 Fellowi Images에 있고, 전체 규칙은 이용약관에 있습니다.