ANJ debate deepfakes em seminário sobre crescimento da desinformação
San Gregory é um especialista em deepfakes. Diretor da organização Witness, ele foi a principal atração do seminário “Desinformação: antídotos e tendências”, realizado na manhã desta quinta-feira (17), em São Paulo, pela ANJ (Associação Nacional de Jornais) como parte da agenda de celebração dos seus 40 anos de atividades.
As deepfakes estão no universo fake 2.0, como disse Marcelo Rech, presidente da ANJ e vice-presidente editorial do Grupo RBS. “A utilização de vídeos manipulados por inteligência artificial e que causam confusão na identificação das audiências e a certificação da sua origem é um grande problema. Está no início, mas requer cuidado.”
Gregory definiu essa nova geração de noticiário sem lastro como “infoapocalíptico” e tecnoapocalíptico”. Ele disse que vem mantendo reuniões com plataformas como Facebook, YouTube e WhatsApp, que possuem filtros de identificação, mas que mantêm esses instrumentos lacrados nas suas estruturas internas.
“É um jogo de gato e rato. O gato representa o algoritmo e o rato a evolução da falsificação. A tecnologia facilita a manipulação de imagens que ficam tão realistas que parecem críveis. Uma foto originalmente feita durante uma nevasca, pode ser transformada como fosse no verão. A inteligência artificial ajuda na criação de perfis, vídeos e fotos que nunca existiram. Com uma foto, pode-se materializar a deepfake”, detalhou Gregory, que acrescenta.
“Há combinações de expressões e a identificação por mecanismos como observar se há movimento na imagem, mas até nisso há risco de engano. A inteligência artificial vai reaprendendo com os algorítimos. Já existe aplicativo que produz deepfake. Portanto não é fácil identificar, nem mesmo com blockchain”.
O especialista reforçou ainda que detectar shadow fakes é um desafio. “Mas temos que ficar atentos pois elas estimulam violência, racismo, exibição e desrespeito de gênero, além de comprometer a imagem de pessoas com exibição de nudes fakes”, explicou o diretor da Witness, que atua no Brasil com interações que vão do coletivo Papo Reto, que atua no Complexo do Alemão, no Rio, à mídia mainstream.