Uno de los informes internos filtrados por Frances Haugen, exinvestigadora del departamento de integridad cívica de Facebook, dice que los algoritmos de Instagram son dañinos para la salud mental de los niños, muy especialmente de las chicas jóvenes. Cuando le preguntaron sobre esos informes en el Congreso estadounidense, Mark Zuckerberg aseguró que usar las redes sociales para conectar con otras personas puede hacerte sentir mejor y estar menos solo. Era octubre de 2021, cuatro años después de que Molly Russell se quitara la vida en su habitación, bajo los efectos “negativos de contenidos en internet”, según Andrew Walker, forense adjunto en Oxfordshire y juez instructor del Distrito Norte de Londres. El tribunal británico ha señalado a dos tecnológicas como corresponsables, Pinterest e Instagram.
En los últimos seis meses de su vida, el iPhone de la adolescente estuvo dominado por información relacionada con el suicidio y las autolesiones, incluyendo métodos y relatos de otros adolescentes, y de historias e imágenes nihilistas en blanco y negro para ilustrar la imposibilidad de ser feliz. El informe forense dice que Molly había creado un tablero de Pinterest con 469 imágenes de temas relacionados con el suicidio y que seguía una cuenta con 200.000 seguidores en Twitter con citas inspiradoras sobre el suicidio. Pinterest es una red social donde los usuarios crean corchos virtuales de los que cuelgan imágenes. La empresa le mandaba correos recomendando “Diez tableros sobre la depresión que te pueden gustar”. Lo último que hizo antes de morir fue guardar una imagen en Instagram con un mensaje sobre la depresión.
Según un estudio publicado en la revista de la Academia Americana de Psiquiatría Infantil y del Adolescente, la serie 13 razones produjo un aumento del 28,9% de suicidios en Norteamérica, especialmente entre 10 y 17 años de edad. La prensa tradicional es consciente de su capacidad de incentivar ese tipo de conductas, pero el nuevo ecosistema mediático no parece serlo e incluso ofrece una dieta patológica de contenidos tóxicos a individuos vulnerables, con algoritmos que refuerzan y amplifican los miedos y obsesiones de los usuarios, de forma secreta e individual. Cuando Molly Russell buscó consuelo en la Red, los algoritmos de recomendación de al menos tres plataformas la inundaron con material que transformó su melancolía adolescente en una obsesión suicida, sin que nadie se enterara.
Elizabeth Lagone, jefa de la política de salud y bienestar de Meta, dijo que Russell había “visto algunos contenidos que violaban nuestras políticas y que lamentaban eso”. Pero el principal problema de Facebook no es de acceso, sino de amplificación. Cuando se busca contenido sobre el suicidio, ofrece, recomienda y vende más suicidio, con información minuciosa sobre cómo hacerlo, cómo autolesionarse, cómo dejar de comer, cómo hacerse daño. Son los mismos algoritmos que empujan a la gente al extremismo y a la radicalización: sistemas optimizados para ofrecer aquello que busca el cliente de forma más y más insidiosa hasta convertirse en una compulsión. Es posible que las redes sociales puedan ayudar a los adolescentes a ser más felices, pero sólo cuando esas redes cambien sus reglas de funcionamiento. Mientras el objetivo sea la explotación de los datos de los usuarios para el beneficio económico de la red social y de sus clientes, las marcas, nadie más saldrá beneficiado.
La nota precedente contiene información del siguiente origen y de nuestra área de redacción.
