Facebook derruba rede de perfis que usavam fotos geradas por IA

O uso de perfis falsos para promover propaganda governamental continua sendo uma dor de cabeça para o Facebook. Recentemente, a rede social removeu duas redes acusadas de manter tais práticas, com origem na China e nas Filipinas. Os grupos usavam inteligência artificial para gerar fotos de perfil que tentavam enganar a identificação da plataforma.

Para detectar as contas falsas, o Facebook afirma se concentrar o comportamento desses perfis, para além de seu conteúdo.

Grupos que utilizam uma técnica conhecida como GANs (Generative Adversarial Networks) geralmente deixam padrões de anomalias que podem ser facilmente detectados. A prática tem se tornado comum, de acordo com a empresa especializada em análise social Graphika.

O relatório do Facebook revelou que uma pequena parte das atividades realizadas pelo grupo identificado na China tinha como foco as eleições dos Estados Unidos, com ações pró e contra Trump, além de outra com apoio à dupla Biden-Harris. O maior interesse da rede chinesa, porém, teria sido na segurança marítima, com ênfase no Mar da China Meridional.

Nas Filipinas, a rede de perfis falsos consistia em vários grupos de atividades conectadas. O Facebook revela que as contas faziam publicações de conteúdo sobre notícias locais, política doméstica, críticas ao comunismo, jovens ativistas, entre outros assuntos.

Fonte: Tecnoblog