Segundo a Google, 72% dos utilizadores norte-americanos de internet testemunharam assédio online e quase metade já viveu essa experiência. "Quase um terço autocensura o que é publicado online com receio de represálias". E é aí que o Perspetive pretende atuar.
A nova tecnologia pretende rever os comentários e classificá-los com base na sua semelhança com outras reações que os utilizadores consideraram "tóxicos" ou que tenham levado alguém a abandonar a conversação. Para isso, foi preciso examinar "dezenas de milhar de comentários que foram marcados por revisores humanos".
Os programadores terão acesso ao machine learning através da API Perspective, e por isso publishers – incluindo os membros europeus da Digital News Initiative, uma parceria entre a Google e os publishers de notícias na Europa – poderão passar a utilizar esta tecnologia.
De acordo com a Google, os publishers podem escolher o que pretendem fazer com a informação que obtêm do Perspective. "Por exemplo, podem assinalar comentários para os seus próprios moderadores reverem e decidirem incluir ou não na conversação. Ou por exemplo, um publisher poderá disponibilizar ferramentas para ajudar a sua comunidade a perceber o impacto do que estão escrever – por exemplo, dando a conhecer a quem comenta o potencial tóxico do seu comentário à medida que está a escrever".
Uma versão desta tecnologia está já a ser testada pelo The New York Times, com uma equipa a moderar cada comentário antes de ser publicado, revendo diariamente mais de 11 mil.
