Facebook anuncia um sistema de inteligência artificial para detectar o Revenge Porn

O Facebook anuncia um sistema de inteligência artificial para detectar o Revenge Porn ou pornografia de vingança, e diz que as contas que as postam serão deletadas.

fonte: 9to5Mac, via Shutterstock

O Facebook começou a testar um sistema para combater o Revenge Porn ou pornografia de vingança no final do ano passado, mas que tinha um aspecto bastante assustador: você precisava enviar seus próprios nudes para que a plataforma soubesse quais imagens deveria bloquear. A rede social anunciou hoje um novo sistema de detecção baseado em IA.
O sistema anterior, que ainda está em uso e definido para expansão, dependia que os usuários  carregassem fotos que temiam ser compartilhadas, permitindo que o Facebook criasse uma impressão digital para bloquear o upload de imagens correspondentes.

"Você enviaria o nude para si mesmo no Messenger, e o Facebook criaria uma impressão digital com hash da foto - uma versão criptografada dos dados brutos no arquivo de imagem. Sempre que alguém tentasse enviar uma foto, ela seria verificada em relação à impressão digital e rejeitada se corresponder."

O Facebook diz que seu novo sistema baseado em inteligência artificial foi projetado para detectar automaticamente imagens nuas ou quase nuas, antes de passá-las para um moderador humano decidir se a foto ou o vídeo deve ser ou não bloqueado.

"Usando o aprendizado de máquina e a inteligência artificial, podemos agora detectar proativamente imagens quase nuas ou vídeos que são compartilhados sem permissão no Facebook e no Instagram. Isso significa que podemos encontrar esse conteúdo antes que alguém o denuncie, o que é importante por dois motivos: muitas vezes, as vítimas têm medo de retribuições, por isso, relutam em denunciar o conteúdo ou não sabem que o conteúdo foi compartilhado.

Um membro especialmente treinado da nossa equipe de operações da comunidade analisará o conteúdo encontrado pela nossa tecnologia. Se a imagem ou o vídeo violar nossos Padrões da comunidade, nós os removeremos e, na maioria dos casos, também desativaremos uma conta para compartilhar conteúdo íntimo sem permissão."

A empresa diz que há um processo de apelação se alguém sentir que sua conta foi bloqueada de forma inadequada.

O Facebook diz que sua iniciativa anterior foi bem recebida pelas vítimas.

"Depois de receber feedback positivo das vítimas e das organizações de apoio, expandiremos esse piloto nos próximos meses para que mais pessoas possam se beneficiar dessa opção em uma emergência."

A empresa também criou uma nova página dentro de seu Centro de Segurança, explicando como a pornografia de vingança pode ser reportada e os passos adicionais que as vítimas possam tomar.

fonte: 9to5Mac