A través de una inteligencia artificial, que escaneará comentarios, Google planea dar informes sobre aquellas conversaciones que las considere TÓXICAS.
"Perspective es una tecnología que utiliza el aprendizaje automático (machine learning)
para identificar los comentarios tóxicos. Y por toxicidad entendemos
aquellos comentarios que llevan a alguien a abandonar una conversación",
explicó en conferencia telefónica el responsable de la iniciativa,
Jared Cohen.
El nuevo proyecto de inteligencia artificial de Google pretende ser una herramienta útil para luchar contra el "acoso en línea y la creciente toxicidad de las conversaciones en la red". Según Cohen los comentarios agresivos hacen dificultosa las conversaciones y, muchas veces, ocasiona que mucha gente la abandone.
La tecnológica ya ha probado el algoritmo con The New York Times, The Guardian, The Economist y la Fundación Wikimedia, responsable de la Wikipedia.
El
directivo es presidente de Jigsaw, el laboratorio de ideas de Alphabet
—antes conocido como
Google Ideas— que ha sido el responsable del
desarrollo de este proyecto de inteligencia artificial, que se sustenta en la tecnología de aprendizaje automático de Google, Tensorflow.
Perspective analiza los comentarios y detecta el grado de agresividad de las conversaciones y les ofrece a medios y plataformas de internet la información detallada en un marcador que va de cero a cien.
Para enseñarle al algoritmo como reconocer los comentarios tóxicos le dieron la facultad de comparar los comentarios analizados con otros que anteriormente fueron categorizados como tóxicos. También
dispone de un sistema que permite que se corrijan evaluaciones
erróneas. Como toda inteligencia artificial, mejorará automáticamente con el tiempo y a medida que más datos posea mejor será su juicio.
Cualquier medio o plataforma de internet puede utilizar Perspective de forma gratuita —a través de una API—, aunque por el momento solo existe un modelo para el idioma inglés.
Cohen
subrayó que Perspective está en "sus primeros días" y "muy lejos de ser
perfecto", pero que irá mejorando a medida que disponga de más datos
para entrenar su precisión.
En
el futuro, a medida que editores de otras lenguas se sumen al proyecto,
la "aspiración" de Google es ir ampliando el rango de idiomas
disponibles. También esperan que a lo largo del año Perspective
evolucione y sirva para detectar en los comentarios ataques directos y
temas que no tienen nada que ver con la discusión en marcha.
No hay comentarios.