Após os ataques terroristas na Nova Zelândia, o Facebook, por meio de um comunicado assinado por Guy Rosen, VP de Integridade da rede, analisou o que mais poderia fazer para impedir que os serviços da plataforma sejam utilizados para causar danos ou disseminar o ódio. À época do atentado, o assassino transmitiu as imagens numa live.
Como resultado das análises, a partir desta quinta-feira (15), pessoas que violarem determinadas regras do Facebook, serão impedidas de usar o Live. “Além disso, está claro que combater essas ameaças exige inovação técnica para ficar à frente do tipo de modificação de mídias que vimos depois de Christchurch, quando alguns usuários alteraram o vídeo para evitar a detecção a fim de republicá-lo depois que ele foi removido. Isso exigirá pesquisas fundacionais conduzidas pela indústria e acadêmicos. Com esse objetivo em mente, também estamos anunciando novas parcerias de pesquisa no valor total de US$ 7,5 milhões com os principais acadêmicos de três universidades, projetadas para promover melhorias adicionais na tecnologia de análise de imagens e vídeos”, afirma Rosen.
Até hoje, se alguém postasse conteúdos que violassem os Padrões da Comunidade – no Facebook Live ou em outro lugar -, a rede removeria a publicação. Se eles continuassem publicando conteúdos que violassem os padrões, o usuário não conseguiria utilizar seu perfil por um determinado período de tempo, o que também eliminava a capacidade dessas pessoas de transmitirem pelo Live.
Em alguns casos, a rede baniria o usuário da plataforma, seja por causa de repetidas violações ou em casos raros de uma única violação grave (por exemplo, com propaganda de terror na foto de perfil ou compartilhamento de imagens de exploração infantil).
“A partir de hoje estamos reforçando nossas políticas especificamente para o Facebook Live. Agora aplicaremos uma política de ‘infração única’ para o Live, em conjunto com uma gama mais ampla de ofensas. Qualquer pessoa que violar nossas políticas mais sérias será impedida de usar o Live por determinado período de tempo – por exemplo, 30 dias – a partir da primeira violação. Assim, alguém que compartilhe um link para uma declaração de algum grupo terrorista agora será imediatamente impedido de usar o Live por um determinado período de tempo, por exemplo”, diz o VP de integridade.
Ainda segundo comunicado, a rede planeja estender essas restrições para outras áreas nas próximas semanas, começando por evitar que essas mesmas pessoas criem anúncios no Facebook.
“Um dos desafios que enfrentamos nos dias após o ataque na Nova Zelândia foi a proliferação de versões diferentes do vídeo do atentado. As pessoas – nem sempre intencionalmente – compartilharam versões editadas do vídeo, o que dificultava a detecção por nossos sistemas”, explica Rosen. “Embora tenhamos implementado diversas técnicas para eventualmente encontrar essas versões alternativas, incluindo tecnologia de correspondência de vídeo e áudio (‘video & audio matching’), percebemos que essa é uma área em que precisamos investir com mais pesquisas. Assim, anunciamos hoje parcerias com três universidades – Universidade de Maryland, Cornell e a Universidade da Califórnia, em Berkeley – focadas em pesquisar novas técnicas”, revela o executivo.
As pesquisas serão focadas em detectar mídias modificadas, incluíndo imagens, vídeo e áudio e distinguir publicações de indivíduos que intencionalmente modificam vídeos e fotos de pessoas que postam inadvertidamente.
“Este trabalho será essencial em nossos esforços mais amplos contra mídias modificadas, incluindo DeepFakes. Esperamos que isso também nos ajude a combater de forma mais eficaz os grupos de indivíduos organizados que tentam enganar nossos sistemas, como vimos acontecer depois do ataque de Christchurch”, finaliza.
