O presidente Trump agora assinou a Lei de Take It Down, criminalizando os foscos sexuais em nível federal nos EUA. Ao mesmo tempo, a tentativa da comunidade Civitai de ‘limpar seu ato’ em relação à IA da NSFW e à produção de celebridades finalmente falhou em apaziguar os processadores de pagamento, levando o web site a procurar alternativas ou desligar. Tudo isso nas meras duas semanas desde o mais antigo e maior web site pornô de Deepfake do mundo ficou offline…
Foram algumas semanas importantes para o estado de imagens e vídeos não regulamentados. Há pouco mais de duas semanas, o domínio número 1 para o compartilhamento da comunidade do pornô de celebridades Deepfake. O Sr. Deepfakes, de repente, ficou offline depois de mais de sete anos em um dominante e muito estudado Posição como locus world para o conteúdo sexual de celebridades da IA. Quando caiu, o web site estava recebendo um média de mais de cinco milhões de visitas um mês.
Antecedentes, o domínio do Sr. Deepfakes no início de maio; Inserção, o aviso de suspensão, agora substituído por um erro 404, já que o domínio foi aparentemente comprado por um comprador desconhecido em 4 de maio de 2025 (https://www.whois.com/whois/mrdeepfakes.com). Fonte: mrdeepfakes.com
A cessação dos serviços para o Sr. Deepfakes foi oficialmente atribuído para a retirada de um ‘provedor de serviços crítico’ (veja a imagem inserida acima, que foi substituída por falha do domínio dentro de uma semana). No entanto, uma investigação jornalística colaborativa teve desanimizou uma figura-chave Atrás do Sr.deepfakes diretamente antes do desligamento, permitindo a possibilidade de o web site ter sido fechado por razões pessoais e/ou legais desse indivíduo.
Na mesma época, Civitai, a plataforma comercial amplamente usada para celebridades e NSFW Lorasimposto um conjunto de incomum e controverso medidas de autocensura. Isso afetou a geração de DeepFake, a hospedagem de modelos e uma lista mais ampla de novas regras e restrições, incluindo proibições completas em certo Fetiches marginais de NSFW. e o que chamou de ‘ideologias extremistas’.
Essas medidas foram solicitadas pelos provedores de pagamentos aparentemente ameaçando retirar os serviços do domínio, a menos que sejam feitas alterações em relação ao conteúdo da NSFW e representações de IA das celebridades.
Civitai cortou
A partir de hoje, parece que as medidas tomadas por civitai não têm visto e mastercard: a nova postagem† No web site, do gerente de engajamento da comunidade Alasdair Nicoll, revela que os pagamentos de cartões pelo Civitai (cujo sistema de dinheiro digital ‘Buzz’ é alimentado principalmente por cartões de crédito e débito do mundo actual) será interrompido a partir desta sexta-feira (23 de maio de 2025).
Isso impedirá os usuários de renovar associações mensais ou comprar um novo burburinho. Embora Nicoll aconselha que os usuários possam manter os privilégios atuais de associação, mudando para uma associação anual (custo†† US $ 100 a US $ 550 USD) Antes de sexta-feira, claramente o futuro é um pouco incerto para o domínio neste momento (deve-se notar que as associações anuais foi ao ar Ao mesmo tempo em que o anúncio sobre a perda de processadores de pagamento foi feito).
Em relação à falta de um processador de pagamento, Nicoll diz ‘Estamos conversando com todo provedor confortável com a inovação da IA’.
Quanto ao fracasso dos esforços recentes em repensar adequadamente o web site frequentemente criticado Políticas em torno do conteúdo da AI e NSFW de celebridades, Nicoll afirma no submit:
‘Algumas empresas de pagamento rotulam plataformas generativas-AI de alto risco, especialmente quando permitimos conteúdo maduro gerado pelo usuário, mesmo quando é authorized e moderado. Essa escolha de políticas, nada de que os usuários fizeram, forçaram o corte. ‘
Um comentário do usuário ‘Faeia’, designado como chefe de gabinete da empresa em seu civitai perfil*, adiciona contexto a este anúncio:
‘Apenas para esclarecer, estamos sendo removidos do processador de pagamento porque optamos por não remover o NSFW e o conteúdo adulto da plataforma. Continuamos comprometidos em apoiar todos os tipos de criadores e estamos trabalhando em soluções alternativas.
Como um motorista tradicional de novas tecnologiasnão é incomum que o conteúdo da NSFW seja usado para Juros de partida Em um domínio, tecnologia ou plataforma-apenas para que os adeptos iniciais sejam rejeitados uma vez que o capital ‘legítimo’ e/ou uma base de usuário é suficiente (ou seja, usuários suficientes para que a entidade sobreviva, quando tosada de um contexto da NSFW).
Pareceu por um tempo que o civitai seguiria Tumblr e diversas outras iniciativas nessa rota em direção a um produto ‘higienizado’ pronto para esquecer suas raízes. No entanto, o adicional e crescente Controvérsia/estigma em torno do conteúdo gerado pela IA de qualquer tipo Representa um peso cumulativo que parece definido para evitar um resgate de última hora, neste caso. Enquanto isso, o anúncio oficial aconselha os usuários a adotar a criptografia como um método de pagamento alternativo.
Pretend Out
O advento do presidente Donald Trump com entusiasmo assinatura o federal Derruba É provável que o ACT tenha influenciado alguns desses eventos. A nova lei criminaliza a distribuição de imagens íntimas não consensuais, incluindo os DeepFakes gerados pela IA.
A legislação exige que as plataformas removam o conteúdo sinalizado dentro de 48 horas, com a execução supervisionada pela Comissão Federal de Comércio. As disposições criminais da lei entram em vigor imediatamente, permitindo a acusação de indivíduos que conscientemente publicam ou ameaçam publicar imagens íntimas não consensuais (incluindo os deepFakes de DeepFakes gerados pela IA) dentro do alcance dos Estados Unidos.
Embora a lei tenha recebido apoio bipartidário raro, além de apoiar as empresas de tecnologia e grupos de defesa, os críticos argumentam que pode suprimir conteúdo legítimo e ameaçar ferramentas de privacidade como a criptografia. No mês passado, a Fundação Eletrônica de Frontier (eFF) declarou oposição à contaafirmando que os mecanismos de remoção que exige direcionarem uma faixa mais ampla de materials do que a definição mais estreita de imagens íntimas não consensuais encontradas em outras partes da legislação.
‘A provisão de remoção de Taket It se aplica a uma categoria de conteúdo muito mais ampla – potencialmente todas as imagens que envolvam conteúdo íntimo ou sexual – do que as definições mais estreitas do NCII encontradas em outras partes da lei. A provisão de quedas também carece de salvaguardas críticas contra pedidos frívolos ou de queda de fé de má-fé.
Os serviços dependerão de filtros automatizados, que são ferramentas infames e rudes. Eles freqüentemente sinalizam o conteúdo authorized, do comentário justo a reportagem de notícias. O período de tempo apertado da lei exige que aplicativos e websites removam o discurso dentro de 48 horas, raramente tempo suficiente para verificar se o discurso é realmente ilegal.
“Como resultado, os provedores de serviços on -line, particularmente os menores, provavelmente optarão por evitar o risco authorized oneroso, simplesmente depublicando o discurso, em vez de até tentar verificar isso”.
As plataformas agora têm até um ano a partir da promulgação da lei para estabelecer um processo formal de aviso e admissão, permitindo que indivíduos afetados ou seus representantes invocassem o estatuto na busca de remoção de conteúdo.
Isso significa que, embora as disposições criminais estejam imediatamente em vigor, as plataformas não são legalmente obrigadas a cumprir a infraestrutura de remoção (como receber e processamento de solicitações) até que a janela de um ano tenha decorrido.
O ato de Taking It Down cobre conteúdo de celebridades gerado pela IA?
Embora o ato de Taking It Down atravesse todas as fronteiras do Estado, ele não proibia necessariamente toda a mídia de celebridades dirigida pela IA. A lei criminaliza a distribuição de imagens íntimas não consensuais, incluindo DeepFakes gerados pela IA, somente quando o indivíduo representado tinha um expectativa razoável de privacidade:
O ato afirma:
“(2) ofensa envolvendo representações visuais íntimas autênticas.
“(A) envolvendo adultos. – exceto (para fins de evidência, relatórios, and many others.)deve ser ilegal para qualquer pessoa, no comércio interestadual ou estrangeiro, usar um serviço de computador interativo para publicar conscientemente uma representação visible íntima de um indivíduo identificável que não é menor se –
“(I) A representação visible íntima foi obtida ou criada em circunstâncias em que a pessoa conhecia ou razoavelmente deveria saber que o indivíduo identificável tinha uma expectativa razoável de privacidade;
“(Ii) O que é retratado não foi voluntariamente exposto pelo indivíduo identificável em um ambiente público ou comercial (ou seja, pornô auto-publicado);
“(Iii) o que é retratado não é uma questão de preocupação pública; e
“(Iv) publicação da representação visible íntima –
“(I) pretende causar danos; ou
“(Ii) causa danos, incluindo danos psicológicos, financeiros ou de reputação, ao indivíduo identificável.
A contingência ‘razoável expectativa de privacidade’ aplicada aqui tem não é tradicionalmente preferido os direitos das celebridades. Dependendo da jurisprudência que eventualmente surge, é possível que até explícito O conteúdo gerado pela IA envolvendo figuras públicas em ambientes públicos ou comerciais pode não se enquadrar nas proibições da Lei.
A cláusula remaining sobre determinar o extensão de dano é famosamente elástico Em termos legais, e nesse sentido não acrescenta nada particularmente novo ao ônus legislativo. No entanto, o intenção Causar danos pareceu limitar o escopo da Lei ao contexto de ‘pornografia de vingança’, onde um ex-parceiro (desconhecido) publica conteúdo de mídia actual ou falso de um outro ex-parceiro (igualmente desconhecido).
Embora o requisito de “dano” da lei possa parecer incorreto para casos em que usuários anônimos publicam representações geradas pela IA, isso pode ser mais relevante nos cenários de perseguição, onde um padrão mais amplo de assédio apóia a conclusão de que um indivíduo deliberadamente e maliciosamente direcionou uma figura pública em várias frentes.
Embora a referência da Lei a ‘plataformas cobertas’ exclua canais privados, como sinal ou e-mail de suas disposições de quedas, essa exclusão se aplica apenas à obrigação de implementar um mecanismo formal de remoção até maio de 2026. Isso não significa que a IA não consensual ou representações reais compartilhadas através de comunicações privadas caírem fora do escopo das proibições criminais da lei.
Obviamente, a falta de mecanismos de relatórios no native não dificulta as partes afetadas de relatar o que agora é conteúdo ilegal para a polícia; Tais partes não são impedidas de usar quaisquer métodos de contato convencionais que um web site possa disponibilizar para fazer uma reclamação e solicitar a remoção do materials ofensivo.
Os direitos deixados para trás
Mais de sete anos de crescente crítica pública e da mídia sobre o conteúdo da DeepFake parecem ter culmado em um período incomumente curto de tempo. No entanto, embora a Lei de Take It Down ofereça proibições federais amplas, ela pode não se aplicar em todos os casos que envolvam simulações geradas pela IA, deixando certos cenários a serem abordados sob a crescente coletiva da legislação de DeepFake em nível estadual, onde as leis aprovadas frequentemente refletem ‘interesse native’.
Por exemplo, na Califórnia, o Lei de Direitos de Celebridades da Califórnia Limita o uso exclusivo da identidade de uma celebridade para si e suas propriedades, mesmo após a morte; Por outro lado, o de Tennessee Lei Elvis Concentra-se em proteger músicos de reproduções de voz e imagem não autorizadas, com cada caso refletindo uma abordagem direcionada aos grupos de interesse que são proeminentes em nível estadual.
A maioria dos estados agora tem leis Visando os deepfakes sexuais, embora muitos parem de esclarecer se essas proteções se estendem igualmente a indivíduos particulares e figuras públicas. Enquanto isso, os foses políticos que teriam ajudado Spur O apoio de Donald Trump à nova lei federal pode, na prática, enfrentar barreiras constitucionais em certos contextos.
† Versão arquivada: https://net.archive.org/net/20250520024834/https://civitai.com/articles/14945
†† Versão arquivada (não apresenta preços mensais): https://net.archive.org/net/20250425020325/https://civitai.inexperienced/pricing
* O “chefe de gabinete” actual para o CEO da Civitai é listado no LinkedIn sob um nome não relacionado, enquanto o ‘Faiona’ de som semelhante é um Moderador oficial da equipe civitai no domínio subreddit.
Publicado pela primeira vez na terça -feira, 20 de maio de 2025