A tendência de imagens de notícias falsas geradas por IA parece estar em uma calmaria. Mas a criação de falsificações mais sofisticadas não pode ser descartada.
Apurado pelo site Le Monde 🇫🇷
Em 19 de março, à margem do quarto dia de manifestações contra a reforma da Previdência, circularam na internet fotos falsas de Emmanuel Macron nas ruas saqueadas de Paris. No dia 29 de março, um dia após mais um dia de mobilização marcado por confrontos com a polícia, viralizou a imagem igualmente artificial de um nonagenário com o rosto inchado pelos golpes. Mas, apesar da mobilização sem precedentes em vinte anos e das cenas de caos urbano, nenhuma imagem gerada por inteligência artificial (IA) ainda apareceu nas redes sociais por ocasião do 1º de maio .
Devemos ver isso como uma indicação de uma pausa precoce na explosão de imagens falsas? Desde sua rápida democratização em março de 2023, com o lançamento da nova versão do software Midjourney, a IA geradora de imagens aumentou o medo de entrar em uma nova era de desinformação visual. David Holz, presidente da Midjourney, que ganhou 14 milhões de usuários em um mês, admitiu à revista The Verge que moderar a plataforma foi “difícil” .
Mas seu uso mudou consideravelmente em apenas algumas semanas. O avanço ocorreu em 6 de abril, quando o software de geração de imagem AI mais popular mudou para um modelo pago. A introdução de uma subscrição mínima de dez euros por mês redirecionou consideravelmente a sua utilização para um público profissional. O exame dos pedidos – grande parte dos quais é público – mostra que o software é usado principalmente para projetar imagens conceituais de forma rápida e barata para filmes de animação, anúncios ou mesmo videogames, mais do que para imitar fotos de imprensa.
Como uma ferramenta potencial de desinformação, o Midjourney também está pagando por seu sucesso: as incontáveis falsificações que circularam na primavera provocaram uma onda de artigos na imprensa listando pistas para reconhecê-los. Os pontos fracos da IA já são bastante conhecidos, como a dificuldade em reproduzir mãos realistas, textos coerentes ou até móveis credíveis. Tanto que para os internautas jocosos já é um pouco mais difícil enganar hoje do que há algumas semanas.
Aliás, há uma estética Midjourney, reconhecível por suas imagens sempre perfeitamente compostas e habilmente iluminadas. Farto de fotos de imprensa e tomadas cinematográficas, nas quais “treina” seus modelos, a IA se destaca em imitar o trabalho de um profissional de imagem, mas dificilmente pode imitar erros de enquadramento, movimentos borrados e os vislumbres pálidos de uma realização mais amadora . No entanto, no mundo tão particular da desinformação, a força de uma imagem muitas vezes reside em seu caráter artesanal – como as entrevistas com câmeras escondidas da mídia antivax Project Veritas, e sua estética fotográfica roubada, como se a falha do enquadramento fosse a prova da verdade . Nesta fase, Midjourney é incapaz de criar tais imagens…