El personal de Meta descubrió que una herramienta de Instagram favorecía la explotación infantil

Meta se encuentra en el ojo de la tormenta luego de que se descubriera que cientos de «cuentas menores administradas por los padres» utilizaban la función de suscripción para vender contenido exclusivo, a menudo con chicas jóvenes en bikinis a una audiencia mayoritariamente masculina que expresaba abiertamente un interés sexual en los niños, informó The Wall Street Journal.

A pesar de carecer de desnudez o contenido ilegal, algunos padres (o explotadores de menores) eran conscientes de que el contenido podría usarse para gratificación sexual, participar en bromas sexuales o permitir que sus hijas interactúen con los mensajes sexuales de los suscriptores.

Meta había lanzado la función de pagos sin protecciones básicas de seguridad infantil, lo que permitía a los adultos administrar o coadministrar cuentas a nombre de un niño. Estas cuentas llamaron la atención de usuarios con intereses pedófilos, lo que llevó a Meta a confirmar que sus sistemas de recomendación estaban promoviendo cuentas de modelos menores de edad a usuarios sospechosos de comportamiento inapropiado en línea.

Si bien no todas las cuentas administradas por padres atraían intencionalmente a usuarios pedófilos, se descubrió que los algoritmos de Meta promovían suscripciones de modelaje infantil entre posibles pedófilos.

Para abordar estos problemas, Meta podría haber prohibido las suscripciones a cuentas que presenten modelos infantiles, como lo hacen otras plataformas, o haber exigido que las cuentas que venden suscripciones a contenido centrado en niños se registren para su seguimiento.

En cambio, Meta optó por construir un sistema automatizado para evitar que presuntos pedófilos se suscribieran a cuentas administradas por los padres, aunque este sistema no siempre fue efectivo y podía evitarse creando nuevas cuentas.

Durante el desarrollo de este sistema automatizado, Meta amplió el programa de suscripciones y la función de propinas, lo que provocó casos de mal uso también de la herramienta de «regalos», según informó The Wall Street Journal.

Meta afirmó que sus programas de monetización de creadores son monitoreados de cerca y defendió su decisión de ampliar las suscripciones antes de implementar las funciones de seguridad planificadas.

La empresa enfatizó que no cobra comisiones ni cargos por pagos a cuentas de suscripción, eliminando cualquier incentivo financiero para fomentar las suscripciones de los usuarios. Sin embargo, Meta cobra una comisión por los obsequios a los creadores.

El portavoz Andy Stone dijo: «Lanzamos herramientas de monetización para creadores con un sólido conjunto de medidas de seguridad y múltiples controles tanto de los creadores como de su contenido», refiriéndose a los esfuerzos de la compañía para limitar la suscripción de posibles pedófilos a niños como parte de su trabajo de seguridad continuo.

A pesar de estas garantías, una revisión realizada por The Wall Street Journal de cuentas populares de modelos dirigidas por padres en Instagram y Facebook reveló importantes fallas en la aplicación de las normas. Algunas cuentas previamente prohibidas por explotación infantil dirigidas por padres habían regresado, obtuvieron la metaverificación oficial y acumularon cientos de miles de seguidores. Otros, prohibidos en Instagram por comportamiento de explotación, continuaron vendiendo contenido de modelaje infantil a través de Facebook.

En un descubrimiento alarmante, se encontraron cuentas administradas por padres que promocionaban fotografías de niños estilo pin-up en una página de Facebook de 200.000 seguidores dedicada a creadores de contenido sexual para adultos y fetichismo del embarazo. Meta eliminó estas cuentas y reconoció errores de aplicación después de ser alertado por The Wall Street Journal. Sin embargo, la compañía a menudo no eliminaba los perfiles «de respaldo» de Instagram y Facebook promocionados en biografías, lo que permitía que las cuentas prohibidas siguieran promocionando o vendiendo material hasta que The Wall Street Journal preguntara sobre ellos.

Algunas de las cuentas infantiles administradas por padres en Instagram revisadas por The Wall Street Journal han atraído una atención significativa en plataformas que no son Meta. Las capturas de pantalla de estas plataformas mostraban a hombres publicando rutinariamente imágenes de las niñas en Instagram y discutiendo la voluntad de padres específicos de vender contenido más atrevido en privado. En algunos casos, los usuarios compartieron consejos sobre cómo localizar dónde viven niñas específicas, y un usuario describió una fantasía sexual que involucraba a una niña de 14 años.

Meta ha enfrentado desafíos para detectar y prevenir peligros para la seguridad infantil en sus plataformas. Tras el informe de The Wall Street Journal del año pasado que reveló los algoritmos de la compañía que conectan y promueven una red de cuentas abiertamente dedicadas a contenido sexual de menores, Meta estableció un grupo de trabajo en junio para abordar la sexualización infantil en sus plataformas. Sin embargo, la efectividad de este trabajo ha sido limitada, con pruebas que muestran que las plataformas continúan recomendando términos de búsqueda como «lencería infantil» y grandes grupos discuten vínculos comerciales de material sexual infantil.

Estos fracasos han llevado a los legisladores federales y a los fiscales generales estatales a tomar nota.