Google crea Perspective: la iniciativa de IA contra el abuso

Uno de los grandes problemas actuales en Internet es el abuso y acoso que realizan algunos usuarios en las redes sociales y los comentarios de las páginas web. Muchas páginas reconocidas han tenido que cerrar sus foros por el ambiente tóxico que se vive debido a los trolls, como fue el caso de IMDB. Ahora todo será más sencillo pues Google crea Perspective como una posible solución.

De la mano de Jigsaw Google crea Perspective para terminar con el abuso online

Moderar todas las conversaciones personalmente puede llegar a ser imposible en muchos sitios web, conscientes de ello, Google crea Perspective, que es totalmente gratis y cualquiera que lo desee puede implementarlo vía API en su página web.

Perspective utiliza machine learning que detecta de forma automática los insultos, acoso y abuso en Internet. Cualquier frase que pase por su interfaz y de manera inmediata su inteligencia artificial llevará a cabo una evaluación de la “toxicidad” de la oración con mayor precisión que cualquier lista negra de palabras clave, y mucho más rápido que un moderador humano.

Cómo funciona Perspective

La inteligencia artificial de Perspective toma en base la similaridad de comentarios anteriores que fueron marcados por los usuarios como “tóxicos” es, decir, que les hayan parecido groseros, irrespetuosos o irrazonables, y que probablemente harían que alguien dejara una conversación. Para aprender cómo detectar el lenguaje potencialmente tóxico, Perspective examinó cientos de miles de comentarios que habían sido etiquetados por moderadores humanos.

Las correcciones de los moderadores humanos mejorará la puntuación de Perspective en futuros comentarios, haciéndolo más efectivo.

La primera versión de Perspective ya ha sido probada por el diario The New York Times. Su sitio web recibe más de 11.000 comentarios cada día y hasta ahora habían sido moderados a mano antes de publicarlos. Cualquier desarrollador de sitios web podrá utilizar la API de Perspective para adoptar un enfoque más práctico para lidiar con el abuso en los comentarios.

Perspective se unirá como uno de los muchos nuevos recursos de machine learning que Google ha puesto a disposición de los desarrolladores.

La polémica sobre la censura y la libre expresión

A pesar de que el impulso para crear un espacio seguro es cada vez más necesario en las discusiones en línea, las críticas al utilizar la inteligencia artificial como moderación no faltan, argumentando que permitir a un sistema automatizado eliminar los comentarios es por sí una forma de censura, ya que podría marcar “falsos positivos” o quedar en un área gris donde el sentido común puede ser más útil.

A ese respecto, Google responde que la herramienta de Perspective no está destinada a tener la última palabra en la publicación de un comentario.

Los editores serán libres de elegir lo que hace Perspective. Podrá ser utilizado para bloquear automáticamente cierto contenido, o simplemente ser utilizado para macarlo y moderarlo posteriormente. Otra utilidad será poder alertar al usuario sobre la toxicidad de sus palabras e invitarlo a reconsiderar lo que se está escribiendo.

De momento, esta herramienta solo está disponible en inglés, aunque próximamente llegará a más idiomas, cuando editores y plataformas de más países se muestren interesados en colaborar, se comenzarán a recopilar datos de estos lenguajes para construir un modelo.

¿Te parece que será una forma efectiva de acabar con los trolls?