Llega Perspective, un bot de Google contra trolls y acosadores en los foros y redes sociales

Llega Perspective, un bot de Google contra trolls y acosadores en los foros y redes sociales
| Por

Google y Jigsaw presentan Perspective, una tecnología que se encuentra en su primera etapa de desarrollo y que utiliza el Machine Learning (autoaprendizaje autónomo por ordenador) para ayudar a identificar comentarios negativos y tóxicos en las noticias. “Accediendo API de Perspective, los editores y las plataformas podrán comprobar la utilidad de esta tecnología en sus sitios web y fomentar más conversaciones inclusivas”, explica la tecnológica.

Según un estudio de Datasociety, un 72% de los usuarios de Internet en EE.UU ha sido testigo de acosos en la Red, casi la mitad los ha sufrido directamente en algún momento y cerca de un tercio de los usuarios se autocensura cuando envía mensajes en redes sociales por miedo a represalias. “De acuerdo con el mismo estudio, el acoso online ha afectado a más de 140 millones de personas en EEUU y muchas otras, en el resto del mundo”.

Cómo funciona

Perspective analiza los comentarios y los evalúa basándose en el parecido que tienen con los comentarios que las personas han indicado como “tóxicos” o que, probablemente, pueden hacer que alguien abandone una conversación. Para aprender a detectar un lenguaje potencialmente tóxico, Perspective examina decenas de miles de comentarios etiquetados por personas dedicadas a revisarlos. Cada vez que Perspective encuentra nuevos ejemplos de comentarios tóxicos o recibe correcciones por parte de los usuarios, mejora su capacidad para evaluar los futuros comentarios.

“Nuestro modelo ha sido diseñado para detectar el lenguaje tóxico, pero a lo largo de los dos próximos años lanzaremos nuevos modelos que van a funcionar en otros idiomas (además del inglés), así como otros modelos capaces de identificar comentarios etiquetados como ataques personales o que no se ocupan del asunto que se debate”, explica Jared Cohen, presidente de Jigsaw, una de las iniciativas de Google encaminadas a combatir el acoso en Internet.
Según el modelo de la herramienta Perspective, los editores pueden decidir lo que desean hacer con la información del detector . “Por ejemplo, pueden elegir marcar comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación. También pueden ofrecer herramientas para ayudar a su comunidad a entender el impacto de lo que escriben permitiendo, por ejemplo, que la persona que está escribiendo vea la toxicidad potencial de sus comentarios justo cuando los está escribiendo. Los editores incluso podrían permitir a los lectores clasificar los comentarios según su toxicidad, facilitándoles la búsqueda de grandes debates escondidos en conversaciones tóxicas”, explican sus promotores.

¿Uber, Blablacar, Cabify...? Google se hace taxista con Waze Carpool
Radiografía del sector tecnológico: Madrid y Barcelona concentran la mitad de las empresas