Instagram está bajo una presión cada vez mayor después de que una extensa investigación descubrió que millones de usuarios estaban promocionando videos pronazis, que negaban el Holocausto y abiertamente antisemitas.
un informe de buena suerte Descubrió que se colocaba contenido ofensivo directamente junto a anuncios de algunas de las instituciones más grandes de Estados Unidos, incluidas JP Morgan, SUNY y el ejército estadounidense.
La revelación se produce pocos meses después de que el director ejecutivo de Meta, Mark Zuckerberg, relajara drásticamente las regulaciones de contenido y eliminara el programa de verificación de datos de la compañía en Estados Unidos.
Zuckerberg defendió el cambio como un retorno a “dar prioridad a la libertad de expresión”, pero los críticos dijeron que resultó en que la propaganda extremista estuviera más disponible en la plataforma.
Una cuenta ahora desaparecida de una marca de moda llamada @forbiddenclothes está en el centro de la controversia.
La cuenta parece haber sido eliminada, pero anteriormente publicó memes de participación masiva con temas fascistas, informó Fortune.
Uno de sus carretes fijados visto buena suerte Un oficial nazi de las SS de la película Bastardos sin gloria fue utilizado como parte de un meme titulado “Cuando la familia discute sobre política y me piden mi opinión experta”, junto con 31 millones más.
Los comentarios que condenaban el uso del clip para glorificar el nazismo superaron en número a las respuestas positivas, según el informe, que también señaló que la interacción con el video abrió una puerta a contenidos más escandalosos.
Instagram se enfrenta a un intenso escrutinio después de que se descubrió que los algoritmos de la aplicación estaban transmitiendo abiertamente vídeos antisemitas, pronazis y de negación del Holocausto a grandes audiencias.
Las revelaciones se producen pocos meses después de que el director ejecutivo de Meta, Mark Zuckerberg, relajara drásticamente las regulaciones de contenido y desmantelara el programa independiente de verificación de datos de la compañía poco antes de que el presidente Trump asumiera el cargo.
Un carrete posterior mostró una “traducción” generada por IA de un discurso de Adolf Hitler, supuestamente con gráficos para identificar a los judíos en el gabinete de Trump y en los principales medios de comunicación.
El vídeo, que ha sido visto 1,4 millones de veces, muestra estrellas judías retocadas en los rostros de las personas.
Los comentarios incluyeron: “Le debemos una disculpa al gran hombre”, en referencia a Hitler. Otro usuario escribió: ‘Tenía razón en todo’.
Un periodista de Fortune encontró memes que negaban el Holocausto, incluido uno en el que aparecía una figura con un “cerebro pequeño” que decía que “gaseó a millones de personas”. Lea un libro de historia y pregunte: “¿Quién escribió los libros de historia?” Responde una persona con un “gran cerebro”.
La publicación, que sugiere que el Holocausto fue inventado por judíos al utilizar teorías de conspiración racistas sobre el control de los medios por parte de los judíos, ha recibido 3,2 millones de visitas y más de 250.000 interacciones.
Después buena suerte Las publicaciones fueron marcadas en Meta, los clips desaparecieron silenciosamente, pero no antes de que circularan ampliamente.
Como resultado del sistema algorítmico de recompensa de Instagram, el contenido aparece según un patrón, según los expertos.
Después de que un usuario interactúa incluso con un carrete codificado fascista, el motor de recomendaciones de Instagram “personaliza” el feed, a menudo presentado como humor o una estética satírica y aguda, ensalzando insinuaciones antisemitas, chistes racistas y un imaginero nazi.
La investigación encontró que el contenido estaba cubierto de publicidad paga de algunas de las marcas más respetadas del país, desde JPMorgan Chase hasta Nationwide Insurance, SUNY, Porsche y el ejército estadounidense.
Según el estudio, se reprodujeron simultáneamente contenidos extremistas y anuncios corporativos. Sin embargo, no hay indicios de que las empresas sepan junto a qué contenido se colocan sus anuncios.
Meta eliminó las publicaciones después de que fueron marcadas, pero los videos ya habían llegado a una gran audiencia.
Meta, que incluye tanto Facebook como Instagram, alguna vez fue una plataforma que invertía dinero en moderación, pero desde entonces ha cambiado de rumbo.
Un portavoz del ejército de EE. UU. dijo que el ejército no regula la colocación de metaanuncios.
Meta emitió una breve declaración a Fortune: “No queremos este tipo de contenido en nuestras plataformas y las marcas no quieren que sus anuncios aparezcan junto a él”.
Las publicaciones marcadas se agregaron a una base de datos de material prohibido, dijo la compañía.
Las propias políticas de Meta prohíben expresamente la negación del Holocausto, afirmando que los judíos controlan las instituciones financieras y cualquier contenido que glorifique a Hitler.
La investigación también reveló ganancias financieras al eliminar contenido objetable.
Un operador de una página de memes del Reino Unido contó a Fortune cómo ganó ‘£10.000 ($13.000)’ vendiendo camisetas y exploradores, y agregó que las publicaciones con temas de Hitler ‘siempre obtienen más tracción’.
Un trabajador tecnológico con sede en EE. UU. dijo que ganaba alrededor de 3.000 dólares con bonos de Instagram antes de la desmonetización. Admitió que era judío y no creía en el contenido, pero lo publicó porque los carretes “ofensivos y políticos” estaban aumentando rápidamente las cuentas.
Varios creadores dijeron que sus ganancias se dispararon después de que Zuckerberg decidiera poner fin a la verificación de datos por parte de terceros.
Zvika Krieger, ex directora de innovación responsable de Meta, dijo a Fortune que después del cambio de reglas, los sistemas de moderación “se hicieron deliberadamente menos sensibles”.
El presidente Trump y Mark Zuckerberg son vistos durante una cena con líderes tecnológicos estadounidenses en el comedor estatal de la Casa Blanca en Washington, DC en septiembre.
“Lo que genere la mayor participación será recompensado en este algoritmo”, dice Krieger.
El radical cambio de política de Zuckerberg se produjo el 8 de enero de 2025, apenas dos semanas antes de que Donald Trump regresara a la Casa Blanca.
En un video de cinco minutos que conmocionó a los grupos de derechos civiles y aplaudió a partes del mundo MAGA, Zuckerberg anunció que Meta iba a poner fin al uso de verificaciones de datos independientes en Facebook e Instagram.
En cambio, han sido reemplazadas por ‘notas comunitarias’ estilo X, donde los usuarios pueden comentar sobre la precisión de las publicaciones.
Zuckerberg señaló que el umbral requerido para eliminar el discurso de odio se elevaría en un esfuerzo por “restaurar la libre expresión” en la plataforma.
Las elecciones de 2024 “se sienten como un punto de inflexión cultural para priorizar el discurso una vez más”, dijo: “Vamos a volver a nuestras raíces y centrarnos en reducir los errores, simplificar nuestras políticas y restaurar el libre albedrío en nuestras plataformas”.
Sin embargo, los críticos, incluida la Liga Antidifamación, notaron un aumento en el contenido antisemita después del cambio de política.
En mayo, la ADL informó que se había quintuplicado el acoso en Facebook a miembros judíos del Congreso.
Meta aboga por controlar el contenido de su sitio.
“Solo en la primera mitad de 2025, tomamos medidas sobre casi 21 millones de contenidos por violar nuestra prohibición de entidades e individuos peligrosos”, dijo Meta en un comunicado.
Después de afirmar inicialmente una tasa de detección proactiva del 99 por ciento, la compañía admitió que la cifra real estaba en los “90 por ciento”.
El Daily Mail se ha puesto en contacto con Meta, así como con JPMorgan Chase, Nationwide Insurance, SUNY y Porsche para solicitar comentarios.
