Google lanza una solución para los insultos y los trolls: Perspective

Google anunció la creación de una nueva herramienta de inteligencia artificial para encontrar comentarios que "lleven a alguien a abandonar una conversación" por ser irrespetuosos y agresivos. Se puede integrar con una API, pero actualmente sólo funciona para el idioma inglés.

Google anunció este jueves la creación de Perspective, una herramienta de inteligencia artificial para que los medios de comunicación puedan detectar de forma automática los comentarios “tóxicos  e “irrespetuosos  y así cuenten con una nueva forma de evitar el acoso online.

“Perspective es una tecnología que utiliza el aprendizaje automático (’machine learning’) para identificar los comentarios tóxicos. Y por toxicidad entendemos aquellos comentarios que lleven a alguien a abandonar una conversación , explicó el responsable de la iniciativa, Jared Cohen. El nuevo proyecto de inteligencia artificial de Google pretende ser una herramienta útil para luchar contra el “acoso online y la creciente toxicidad de las conversaciones en la red . La solución funciona a través de machine learning, lo que permite refinar las opciones y soluciones de la plataforma. El algoritmo compara los comentarios analizados con otros que anteriormente fueron clasificados por categoría como “tóxicos , y también dispone de un sistema que corrige evaluaciones erróneas. Cohen subrayó que Perspective está en “sus primeros días y “muy lejos de ser perfecto , pero que irá mejorando a medida que disponga de más datos para entrenar su precisión.

El software fue creado por Jigsaw, un laboratorio de ideas dependiente de Google. Cada web que decida utilizarla puede filtrar lo que quiere que se pueda decir o no en su sitio, aunque de forma posterior la propia IA irá mejorando el filtro con adiciones de su propia cosecha. Entre las características configurables de este software hay varias interesantes, como la que permite mostrar a cada usuario el nivel de toxicidad de su comentario antes de postearlo.

En el sitio web de la aplicación, se pueden ver las pruebas con tres discusiones muy candentes de los últimos meses: el Brexit, el cambio climático y las elecciones estadounidenses.

 

 

¿Querés ver cómo funciona? en el mismo sitio web podes hacer una prueba gratis tipeando un comentario propio y viendo qué tan tóxico es.

Temas relacionados

Compartí tus comentarios

¿Querés dejar tu opinión? Registrate para comentar este artículo.
Nombre