Meta quer lançar ferramenta para bloquear nudez em conversas criptografadas

A Meta anunciou planos para lançar uma ferramenta de segurança destinada a proteger crianças e adolescentes de conteúdos impróprios, incluindo imagens de nudez em suas plataformas. Esta medida surge em resposta a crescentes preocupações do governo, da polícia e de organizações de proteção à infância sobre os riscos associados à criptografia de mensagens da empresa.

A nova ferramenta, que será opcional e disponível também para adultos, busca impedir que crianças e adolescentes recebam ou enviem imagens de nudez, inclusive em bate-papos criptografados. Essa iniciativa segue críticas intensas ao movimento da Meta de implementar criptografia ponta a ponta (e2ee) no Messenger, uma medida que, segundo críticos, dificulta a detecção de abuso infantil pela empresa.

Leia também:

• Como entrar em contato com o Facebook?
• Veja por que você deveria seguir exemplo de Mark Zuckerberg e proteger seus filhos
• Inteligência artificial ameaça privacidade de crianças; saiba como se proteger

Recentemente, chefes da polícia na Inglaterra e no País de Gales alertaram sobre o aumento de crimes sexuais cometidos por crianças, atribuindo parte do problema ao envio de imagens nuas por jovens. Além disso, documentos legais nos Estados Unidos alegam que cerca de 100 mil adolescentes usuários do Facebook e Instagram são assediados sexualmente online diariamente.

O novo recurso da Meta não se baseia na varredura do lado do cliente, uma técnica que verifica mensagens em busca de correspondências com imagens conhecidas de abuso infantil antes da criptografia. A empresa argumenta que essa abordagem comprometeria a privacidade dos usuários.

Ao invés disso, a Meta optou por um sistema baseado em aprendizado de máquina que funciona inteiramente no dispositivo do usuário para identificar nudez, conforme a BBC.

Além desta ferramenta, a Meta anunciou outras medidas para aumentar a segurança dos menores em suas plataformas. Entre elas, está a configuração padrão que impede que adolescentes recebam mensagens de adultos desconhecidos no Instagram e no Messenger.

Além disso, a empresa revelou novos recursos de segurança infantil, como ferramentas de supervisão parental, que permitem aos pais negar solicitações dos filhos para alterar suas configurações de segurança.