Fibra

Início > Conteúdos > A Google quer acabar com os comentários tóxicos

A Google quer acabar com os comentários tóxicos

sexta, 24 fevereiro 2017 14:36

A Google e a incubadora tecnológica Jigsaw dão os primeiros passos com a Perspective, uma nova tecnologia que recorre ao machine learning para identificar comentários tóxicos. Programadores e publishers poderão passar a utilizar esta ferramenta nos seus websites.

Segundo a Google, 72% dos utilizadores norte-americanos de internet testemunharam assédio online e quase metade já viveu essa experiência. "Quase um terço autocensura o que é publicado online com receio de represálias". E é aí que o Perspetive pretende atuar.

A nova tecnologia pretende rever os comentários e classificá-los com base na sua semelhança com outras reações que os utilizadores consideraram "tóxicos" ou que tenham levado alguém a abandonar a conversação. Para isso, foi preciso examinar "dezenas de milhar de comentários que foram marcados por revisores humanos".

Os programadores terão acesso ao machine learning através da API Perspective, e por isso publishers – incluindo os membros europeus da Digital News Initiative, uma parceria entre a Google e os publishers de notícias na Europa – poderão passar a utilizar esta tecnologia.

De acordo com a Google, os publishers podem escolher o que pretendem fazer com a informação que obtêm do Perspective. "Por exemplo, podem assinalar comentários para os seus próprios moderadores reverem e decidirem incluir ou não na conversação. Ou por exemplo, um publisher poderá disponibilizar ferramentas para ajudar a sua comunidade a perceber o impacto do que estão escrever – por exemplo, dando a conhecer a quem comenta o potencial tóxico do seu comentário à medida que está a escrever".

Uma versão desta tecnologia está já a ser testada pelo The New York Times, com uma equipa a moderar cada comentário antes de ser publicado, revendo diariamente mais de 11 mil.

fibra@briefing.pt

Briefing advocatus fibra Welcome store


Considerações Legais     © 2015 fibra     Ficha Técnica      Estatuo Editorial