Imagens imaculadas de IA do Papa Francisco enganam as massas

No fim de semana, uma imagem gerada por IA do Papa Francisco vestindo um jaleco branco viralizou no Twitter, e aparentemente muitas pessoas acreditava que era uma imagem real. Desde então, o inchado pontífice comentário inspirado sobre a natureza enganosa das imagens geradas por IA, que agora são quase fotorrealistas.

A imagem do papa, criada usando Midjourney v5 (um modelo de síntese de imagem AI), apareceu pela primeira vez em um tweet por um usuário chamado Leon (@skyferrori) no sábado e rapidamente começou a circular como parte de outros tweets de memes com imagens semelhantes também, incluindo um que especula com humor sobre uma “marca de estilo de vida” do papa.

Não muito tempo depois, o Twitter anexou um aviso de contexto adicionado pelo leitor ao tweet que dizia: “Esta é uma imagem gerada por IA do Papa Francisco. Não é uma foto genuína.“

Conforme observado em nosso artigo sobre as fotos da prisão de Donald Trump geradas por IA na semana passada, as diretrizes do Twitter afirmam que os usuários “não podem compartilhar enganosamente mídia sintética ou manipulada que provavelmente causará danos”. Embora, neste caso, a linha entre dano e paródia possa ser tênue.

Como sabemos que a imagem é falsa? Além de um Postagem do Reddit contendo imagens alternativas do Papa da pessoa que provavelmente o fez, The Verge quebra as evidências razoavelmente bem em uma peça analisando o impacto da imagem falsa. Por exemplo, se você ampliar os detalhes, verá sinais reveladores de síntese de imagem em detalhes distorcidos, como o colar de crucifixo do papa, a sombra torta de seus óculos e o que quer que ele esteja carregando na mão (uma xícara?).

Mas ainda assim, olhando rapidamente, a foto falsa (“fauxto”?) parece bastante realista. E, como observa The Verge, uma imagem elegante do Papa Francisco joga com nossas crenças sobre o papado, que geralmente envolve imagens selvagens não falsas– embora o Papa Francisco seja conhecido por sua “humilde” roupas.

Uma jornada no meio da jornada

O serviço de imagem usado para criar a foto falsa, meio da jornadaestreou no ano passado. Juntamente com DALL-E e Stable Diffusion, é um dos três principais modelos de síntese de imagem que se tornaram populares online. Todos os três permitem que os usuários gerem novas imagens usando apenas descrições de texto chamadas “prompts”.

Nesse caso, o prompt usado para criar a foto do papa inchado pode ter sido tão simples quanto “Papa Francisco em um casaco branco fofo”, porque o Midjourney deu grandes saltos no fotorrealismo recentemente, renderizando cenas complexas cheias de detalhes a partir de prompts relativamente simples.

O que essa capacidade quase sem esforço de falsificar fotos significa para o futuro da mídia ainda é incerto, mas como já especulamos antes, devido à síntese de imagens, talvez nunca mais possamos acreditar no que vemos online.