A Google lança sua nova IA que detecta imagens com conteúdo de abuso infantil online

A Google apresentou uma nova tentativa para combater a disseminação do material de abuso sexual infantil on-line (Child Sexual Abuse Material ou CSAM) que vem na forma de uma IA que pode identificar rapidamente imagens que não foram catalogadas anteriormente.

fonte: The Next Web

A tecnologia faz parte da API de segurança de conteúdo da empresa, disponível para ONGs e outros órgãos que trabalham com esse problema. Ao automatizar o processo de vasculhar imagens, a IA não apenas acelera as coisas, mas também reduz o número de pessoas que precisam ser expostas a ela, um trabalho que pode causar sérios danos psicológicos para quem está moderando.

Como a Internet Watch Foundation ou Fundação de Observação da Internet do Reino Unido (IWF, na sigla em inglês) encontrou quase 80.000 sites hospedando o CSAM no ano passado, fica claro que o problema não está perto de ser contido. A Google está nesta missão há vários anos e certamente não é a única empresa de tecnologia que está tomando medidas para conter a disseminação do CSAM na web.

Anteriormente, começou a remover os resultados de pesquisa relacionados a esse conteúdo em 2013 e, posteriormente, fez uma parceria com o Facebook, o Twitter e o IWF para compartilhar listas de hashes de arquivos que ajudariam a identificar e remover os arquivos CSAM de suas plataformas.

A Microsoft trabalhou em um projeto semelhante em 2015, e a estrela de Hollywood Ashton Kutcher fundou a Thorn, uma ONG focada na construção de ferramentas tecnológicas para combater o tráfico de pessoas e a exploração sexual infantil. Um de seus projetos, apelidado de Spotlight, ajuda os policiais identificando anúncios em sites de classificados e fóruns que promovem serviços de acompanhantes envolvendo menores.

A nova IA da Google vai além da pesquisa de hashes conhecidos, portanto, espera-se que seja capaz de lidar com novos conteúdos sem precisar depender de bancos de dados de CSAM previamente identificados.

Saiba mais sobre o novo serviço, disponível gratuitamente para ONGs, nesta página.

fonte: The Next Web