Nuevo filtro de Google que elimina palabras tóxicas del internet

Alphabet Jigsaw (anteriormente Google Ideas) presentó oficialmente esta mañana su nueva herramienta para la lucha contra el discurso tóxico en línea, apropiadamente llamado Perspectiva.

Impulsado por un modelo de aprendizaje profundo entrenado en más de 17 millones de comentarios de lectores manualmente revisados proporcionados por el New York Times, el modelo asigna una puntuación a un pasaje determinado del texto, calificándolo en una escala del 0 al 100%, eliminando todo lo que los humanos han calificado antes como "tóxicos".

Uno de los grandes retos para el filtrado del discurso "tóxico" de internet es primero definir que cuenta precisamente como "tóxico" y luego determinar cómo remover dicho discurso sin infringir el derecho de las personas a expresar libremente sus ideas. Mientras que en el mundo en línea no existen los derechos legales tradicionales como la "libertad de expresión", las compañías quieren que sus usuarios tengan tanta libertad como sea posible.