Con la finalidad de liderar en las plataformas digitales, Instagram ha creado la propuesta de antibullying que podría cambiar totalmente nuestra experiencia en la red social. Instagram podrá avisarles a los usuarios si sus comentarios son ofensivos o no, a través de una alerta para que los eliminen antes de que lleguen al receptor. Con esta propuesta ya casi lista para lanzar, la red social también empezará un período de pruebas con otra herramienta para prevenir casos de acoso cibernético.
Esta red social se ha caracterizado por ser la plataforma en la que más riesgo tiene de sufrir hostigamiento, según la organización británica de lucha contra el bullying “Ditch The Label”. El 42% de los jóvenes que han sufrido acoso online lo han hecho en esta red social, según un estudio realizado por la misma entidad a 10.000 jóvenes de entre 12 y 20 años.
Por medio de una inteligencia artificial se podrá detectar el acoso en la plataforma Instagram en comentarios, fotografías y vídeos. De esta forma, se pretende dar a las personas la oportunidad de reflexionar y reconsiderar sus publicaciones que fundamentalmente son dañinas. En las primeras pruebas realizadas de esta función, la compañía asegura que es una buena forma de alentar a los usuarios a borrar su mensaje y compartir contenido menos perjudicial.
Aquellas personas que sean consideradas como ofensivas podrán seguir comentando, pero los mensajes solo estarán visibles para ellos. La víctima puede optar por hacer que los comentarios de una persona restringida puedan ser vistos por los demás usuarios mediante la aprobación de los mismos. Las personas restringidas no podrán ver cuándo la víctima está activa en Instagram o ha leído sus mensajes directos.
En el año 2018, la compañía presentó una inteligencia artificial basada en “machine learning” para escanear fotos e identificar contenido «problemático», el objetivo era detectar cualquier indicio de acoso y a su vez informar automáticamente del contenido, mismo que será revisado por un equipo humano, según explicó Mosseri en un comunicado.
“El acoso en línea es un tema complejo”, reconoce Mosseri en el último comunicado. Estas dos nuevas funciones tienen en cuenta “cómo las personas se intimidan entre sí y cómo responden a la intimidación en Instagram”: “Pero son solo dos pasos en un camino más largo”. La compañía reconoce que es posible “hacer más para evitar que ocurra la intimidación en Instagram y además para que las víctimas de la intimidación puedan defenderse por sí mismas”.