En una medida que busca poner límite al acoso online, Instagram anunció que comenzó a utilizar sistemas de inteligencia artificial para detectar textos ofensivos al momento de publicar una foto o un video. «De esta forma le damos una opción a las personas para que reconsideren sus palabras antes de publicarlas», dijo la compañía en un comunicado oficial.
De forma previa, Instagram había implementado un sistema similar que permitía identificar y notificar a los autores que publicaban comentarios ofensivos. «La experiencia ha sido muy buena y descubrimos que estas pequeñas advertencias pueden ayudar a las personas para que reconsideren sus palabras cuando se les da la oportunidad de cambiar», agregó la firma subsidiaria de Facebook.
Con fotos, videos, Stories y producciones de larga duración en IGTV, Instagram estuvo bajo presión para resolver el problema del acoso después de una serie de casos notorios, incluyendo el suicidio de la adolescente británica Molly Russell.
Adam Mosseri, el director ejecutivo de la empresa, dijo de Instagram «podría hacer más» con respecto al problema, tras anunciar en junio el sistema de detección automática de contenidos ofensivos.
El sistema de inteligencia artificial, que detecta de forma automática un texto considerado potencialmente ofensivo, se basa en los reportes previos realizados por los usuarios. Esta función comenzará a estar disponible de forma paulatina en algunos países, y luego se implementará de forma completa en todo el mundo en los próximos meses, informó La Nación.