Contra el bullying: Instagram detectará textos ofensivos con inteligencia artificialTecnología 

Contra el bullying: Instagram detectará textos ofensivos con inteligencia artificial


La aplicación detectará de forma automática textos potencialmente ofensivos y emitirá una advertencia para que el usuario evalúe la publicación del contenido
16 de diciembre de 2019  • 19:29

En una medida que busca poner límite al acoso online,

Instagram

anunció que comenzó a utilizar sistemas de inteligencia artificial para detectar textos ofensivos al momento de publicar una foto o un video. “De esta forma le damos una opción a las personas para que reconsideren sus palabras antes de publicarlas”, dijo la compañía en un
comunicado oficial.

De forma previa, Instagram había implementado un sistema similar que permitía identificar y notificar a los autores que
publicaban comentarios ofensivos. “La experiencia ha sido muy buena y descubrimos que estas pequeñas advertencias pueden ayudar a las personas para que reconsideren sus palabras cuando se les da la oportunidad de cambiar”, agregó la firma subsidiaria de

Facebook

.


Una vista previa de la advertencia que emitirá Instagram tras detectar un texto ofensivo

Con fotos, videos, Stories y producciones de larga duración en IGTV, Instagram estuvo bajo presión para resolver el problema del acoso después de una serie de casos notorios, incluyendo el suicidio de la adolescente británica
Molly Russell.

Adam Mosseri, el director ejecutivo de la empresa, dijo de Instagram
“podría hacer más” con respecto al problema, tras anunciar en junio el sistema de detección automática de contenidos ofensivos.

El sistema de inteligencia artificial , que detecta de forma automática un texto considerado potencialmente ofensivo, se basa en los reportes previos realizados por los usuarios. Esta función comenzará a estar disponible de forma paulatina en algunos países, y luego se implementará de forma completa en todo el mundo en los próximos meses.

ADEMÁS

Articulos relacionados