O que você precisa saber
O Midjourney, um popular gerador de imagens alimentado por IA, interrompeu os testes gratuitos para todos os usuários após imagens falsas de Donald Trump sendo preso e do papa se tornarem virais nas redes sociais.
Por conta do realismo, muitos chegaram a confundir as falsificações com fotos reais. Para evitar novos casos, o CEO e fundador da Midjourney, David Holz, anunciou a mudança esta semana, citando “demanda extraordinária e abuso”, informou o The Washington Post.
Até então, o Midjourney permitia que qualquer pessoa se inscrevesse para usar o software pelo Discord. Era permitido gerar até 25 imagens de graça antes de ter que assinar a ferramenta com planos pagos.
Por ora, a resposta da empresa ao problema não inclui revisão significativa nas políticas de moderação. O que já foi dito antes é que a ferramenta mantém uma lista de palavras proibidas “relacionada a tópicos específicos em diferentes países”.
O termo “preso”, por exemplo, foi banido da plataforma — uma resposta a uma postagem popular no Twitter que mostra imagens do Midjourney retratando Trump sendo preso.
As restrições, no entanto, são fáceis de contornar. O The Verge conseguiu driblar a restrição elaborando um pouco mais o pedido. O comando “Donald Trump algemado cercado pela polícia”, por exemplo, gerou outro exemplo de foto realista:
Entre para comentar.