Los Angeles está pegando fogo – e deepfakes de IA estão alimentando a desinformação

À medida que os bombeiros continuam a combater os incêndios florestais em Los Angeles, outro flagelo ameaça os esforços de recuperação: deepfakes gerados por IA.

Na quarta-feira, imagens do icônico letreiro de Hollywood envolto em chamas começaram a circular no X (antigo Twitter) enquanto um incêndio assolava Mount Lee. No entanto, todas essas imagens foram criadas usando ferramentas generativas de inteligência artificial.

Seguindo a imagem do letreiro de Hollywood, outras imagens fabricadas contendo representações falsas foram publicadas online. pilhagem–Isso causou ainda mais confusão.

Incêndios florestais e deepfakes predatórios fazem parte de uma tendência crescente de desinformação e teorias da conspiração que se espalham durante as crises. Táticas semelhantes foram observadas em desastres anteriores, como o furacão Helen, em setembro passado, onde golpistas espalharam imagens de destruição geradas por IA em áreas não afetadas pela tempestade.

“Provavelmente é um vandalismo, e eles acham isso engraçado”, disse Tim Weninger, professor de ciência da computação e engenharia da Universidade de Notre Dame. descriptografia. “Também pode ser social ou político, como sugerir que a Califórnia merece queimar, criticar o governador Newsom ou reagir à DEI no combate a incêndios.

Na quinta-feira, o presidente eleito Donald Trump postou novamente no Truth Social, criticando o governador da Califórnia, Gavin Newsom, e o manejo da água pelo estado. O presidente Trump referiu-se anteriormente a ele como “Governador Gavin Newskomb” depois de pedir ao governo que renunciasse devido à sua resposta aos incêndios no sul da Califórnia.

Graças à conectividade das redes sociais, estas imagens geradas por IA podem espalhar-se rapidamente. Usuários desavisados, especialmente aqueles que não estão familiarizados com as especificidades do campo ou da crise, são particularmente propensos a acreditar que os deepfakes de IA são reais. A má comunicação por parte dos funcionários governamentais está a agravar o problema, o que pode tornar difícil para o público distinguir os factos da ficção.

Os deepfakes de IA não são apenas usados ​​para causar pânico em tempos de crise, mas também são cada vez mais usados ​​como armas para manipulação política. No ano passado, enquanto a costa leste dos EUA enfrentava os efeitos dos furacões Milton e Helen, a destruição ocorreu em meio a relatos de que áreas em grande parte povoadas por apoiadores do então candidato Trump não receberiam ajuda. Deepfakes de IA mostrando edifícios que foram destruídos começaram a surgir online. exacerbando ainda mais uma região já polarizada. -Situação política tensa.

Wenninger enfatizou que a disseminação de desinformação muitas vezes se deve a valores sociais e não a limitações tecnológicas, e os indivíduos também apoiam o conteúdo compartilhando-o e gostando dele.

“Às vezes, as questões das redes sociais têm a ver com tecnologia e verificação de factos, mas sobretudo têm a ver com valores”, disse Weninger. “Como sociedade, não damos importância suficiente ao compartilhamento de informações precisas e verdadeiras. Todos os usuários de redes sociais devem decidir isso por si próprios. A tecnologia pode fazer isso por eles. Você não pode fazer isso, e ninguém mais pode fazer isso.” para você.”

Um porta-voz do Hollywood Sign Trust, uma organização sem fins lucrativos que preserva, mantém e promove o letreiro de Hollywood, confirmou: descriptografia Certifique-se de que a placa esteja realmente intacta e em pé.

“O Griffith Park está fechado por motivos de precaução”, disseram. “O sinal está são e salvo e esses rumores falsos não têm validade.”

Editado por Andrew Hayward