Facebook anuncia medidas contra vídeos com deepfake

A técnica de síntese de imagem deepfake vem se transformando e ficando, cada vez mais, assustadora. Com ela, é possível criar imagens e sons que nunca existiram com o uso de inteligência artificial. A definição foi dada por Bruno Sartori no Conversa com Bial. O profissional é um dos expoentes desse mercado e vem se popularizando com vídeos como esse:

Apesar do humor, os vídeos que utilizam tal técnica ou são manipulados de alguma maneira são muito mais perigosos do que uma simples piada. No exemplo abaixo, você pode ver “Obama” falar alguns absurdos como “Trump é um completo imbecil”:

O Facebook está atento a isso e anunciou esta semana que irá combater esse tipo de conteúdo. No entanto, como bem ressalta o Mashable, as regras são um pouco confusas.

Em um post publicado na noite de segunda-feira (6), a rede se posicionou. “Estamos fortalecendo nossa política em relação a vídeos manipulados enganosos que foram identificados como deepfakes”, disse Monika Bickert, vice-presidente de gerenciamento de políticas globais do Facebook.

Segundo a VP, a mídia será manipulada se atender alguns critérios: se foi editado ou sintetizado de maneira que não seja aparente para uma pessoa comum e provavelmente levaria alguém a pensar que o sujeito do vídeo disse palavras que na verdade nunca proferiu; se for produto de inteligência artificial ou do aprendizado de máquina que mescla, substitui ou sobrepõe conteúdo a um vídeo, fazendo com que pareça autêntico.

A executiva observa, porém, que paródias e sátiras são excluídas dessas novas regras, assim como “vídeos que foram editados apenas para omitir ou alterar a ordem das palavras”.

Apesar da aparente boa intenção do Facebook, como bem ressalta o Mashable, outros vídeos enganosos ainda seriam permitidos pela nova política do Facebook. Filmagens de vídeos desacelerados para que o sujeito soe como um bêbado, por exemplo. Ou montagens de diálogos que faça o político dizer algo que ele não disse.

Monika afirmou que a mídia que não atende aos critérios de remoção ainda pode ser sinalizada para revisão por um verificador de fatos. Se for considerado pelo menos parcialmente falso, o Facebook poderá “reduzir significativamente” a circulação do vídeo ou imagem, bem como aplicar um aviso a ele.

“Ao deixá-los e rotulá-los como falsos, estamos fornecendo às pessoas informações e contextos importantes”, escreveu a VP no blog da empresa.