Los padres afirman que YouTube recomienda a sus hijos vídeos sexuales y violentos generados por IA.
La mamá Liz Guilar le dijo al Daily Mail que se vio “inundada” de contenido espeluznante después de abrir una cuenta para sus hijos de uno y tres años.
Ella dijo: “Las imágenes son horribles, con caras derritiéndose, extremidades que desaparecen y monstruos creados accidentalmente para rivalizar con Silent Hill, excepto por los niños pequeños que miran mientras sus padres dependen de YouTube para la curación de contenidos. Es realmente extraño.’
Según el experto en inteligencia artificial Jeremy Carrasco, es poco probable que Guilar esté solo en su experiencia, y es posible que YouTube recomiende rutinariamente contenido terrible generado por inteligencia artificial a los niños.
Realizó un experimento en el que observó que los clips perturbadores se transmitían a través de algoritmos normalmente destinados a niños.
Estos incluyen videos que muestran representaciones caricaturescas de abuso infantil, así como personajes de IA que realizan cirugías grotescas, portan armas, cometen actos de violencia o participan en comportamientos sexuales.
Carrasco dijo que llegó a su conclusión creando una cuenta falsa en YouTube e imitando los hábitos de streaming de los niños para probar qué tipos de videos se recomendaban.
Le dijo al Daily Mail: “YouTube podría decir que soy un niño interesado en Bluey o Roblox y, sin embargo, se refiere a ellos en la página de inicio”. Incluso las miniaturas de la página de inicio son horribles a veces”.
Jeremy Carrasco, productor de videos y consultor de inteligencia artificial, dijo que creó una cuenta haciéndose pasar por un niño para ver qué contenido le enviaban.
Los inquietantes videos de IA en YouTube a menudo presentan personajes de animales humanoides. En este vídeo, una madre gata asfixia a su bebé con una almohada antes de arrojarla por un acantilado.
Señaló que la página de inicio recomendaba contenido perturbador generado por IA a partir del feed del sitio de cortos de YouTube de canales con nombres como ‘MeowBoom’ y ‘MeowKitten007’.
YouTube le dijo al Daily Mail que ninguno de los videos marcados por el experimento de Carrasco apareció en la aplicación YouTube Kids, pero suspendió varios canales destacados por el medio después de que se descubrió que violaban las pautas de la comunidad.
Jack Malone, portavoz de la plataforma, dijo al Daily Mail: “Para ser claros, este contenido no pertenece a la aplicación YouTube Kids. Los padres tienen control sobre lo que ven sus hijos en YouTube y deben elegir un nivel de control de contenido específico para la cuenta de sus hijos durante la configuración.’
Incluso si estos inquietantes videos de IA no aparecen en la aplicación YouTube Kids, la versión simple de la plataforma aún debería poder saber si los niños están mirando en función del contenido que consumen, dijo Carrasco.
“Oh, oye, tenemos niños de siete años mirando, probablemente no deberíamos poner cortos en la página de inicio porque sabemos que es algo saludable, así que con algunas herramientas de edad, creo que pueden decidir”, dijo.
‘Ya tienen las herramientas para hacer esto. Pueden hacerlo mañana. Tampoco estoy sugiriendo bloquear a esos usuarios para que no vean videos de formato corto si los buscan. No les presiones algorítmicamente con la mierda más dañina.’
Los canales cortos generados por IA comenzaron a proliferar a finales del año pasado a medida que la tecnología se volvió más sofisticada.
En este vídeo de IA, una madre enojada con cabeza de oveja golpea a un gato con un murciélago y le vierte algo parecido a alquitrán.
Desde entonces, docenas de canales han estado sacando provecho de la IA facilitando videos con temas violentos, inquietantes y sexuales.
“Mi reacción inmediata fue pensar en lo horrible que sería si mis hijos lo vieran ellos mismos”, dijo Guiller al Daily Mail.
“No creo que los niños pequeños tengan la capacidad de procesarlo de la misma manera que los adultos, por lo que el divertido fallo de la IA que tenemos es confundirlos, asustarlos o normalizar temas perturbadores”.
Guilar publicó en Reddit a principios de este año que estaba “realmente horrorizado al descubrir hasta qué punto la IA derrite el cerebro, algo realmente aterrador”.
En el hilo, decenas de padres compartieron experiencias similares a las de la madre australiana y lamentaron la naturaleza dañina y perturbadora del contenido que encontraron.
Un padre escribió: ‘Hace poco fui a una peluquera que tiene un estudio privado y la escuela fue cancelada debido al clima y ella trajo una de 4/5 años porque no me importaba.
“Pero luego puso YouTube en la televisión y pasó de canciones y videos educativos a la basura de inteligencia artificial más extraña que jamás haya visto tan rápido”.
Otro padre dijo: ‘Algunos de ellos son realmente raros. Ojalá pudiera tomar capturas de pantalla de parte del combustible de pesadilla que bloqueé.
Los vídeos de IA también pueden incluir personajes humanos. En él, una madre aterrorizada arroja a su bebé por la ventana de un avión que se estrella.
Liz Gilar ‘horrorizada’ por los videos generados por IA en YouTube después de revisar la cuenta creada para sus hijos
Giler también dijo que era “aterrador” imaginar a sus hijos viendo los vídeos de IA que él inventó.
Este extraño vídeo, que presenta una versión generada por IA del famoso futbolista Ronaldo, ha recibido más de 200.000 me gusta.
Andrew Koepp, psicólogo del desarrollo y profesor asistente de psicología aplicada en la Universidad de Nueva York, explicó al Daily Mail el daño que este tipo de contenidos puede tener en los niños.
Las características superficiales de los ‘videos’ están claramente diseñadas para atraer a los niños, con colores brillantes y personajes exagerados, parecidos a dibujos animados… sin embargo, el contenido es altamente inapropiado para los niños.’
“Antes de los ocho años, a los niños les resulta difícil distinguir entre ficción y realidad”, dice Cope, añadiendo que los vídeos que le envía el Daily Mail para su revisión, “abandono y desmembramiento, son temas que merecen mucha sensibilidad”.
La controversia surgió a finales de la década de 2010 en el escándalo ‘Elsagate’ de YouTube, en el que los creadores utilizaron imágenes de personajes infantiles como Elsa o Spiderman de Frozen para mostrar escenas inapropiadas con temas violentos y sexuales.
Los videos tuvieron un buen desempeño porque sus creadores pusieron los nombres de los personajes en el título y las etiquetas, lo que llevó al algoritmo a promocionarlos entre los niños.
El Dr. Costantinos Papadamou, informático e investigador, estudió el fenómeno Elsagate y publicó un artículo al respecto en 2020.
El abuso físico de niños es un tema común en estos videos generados por IA
Algunos de los vídeos contienen imágenes inquietantes de sangre y heridas.
El problema actual de los videos perturbadores de IA es la última versión del problema de larga data de YouTube de recomendar videos inapropiados para niños. Estas capturas de pantalla son de vídeos que formaron parte de la controversia ‘Elsagate’ a finales de la década de 2010.
en estudiarÉl y su equipo simularon el comportamiento de los niños en YouTube y descubrieron que a partir de un vídeo que aparece aleatoriamente entre los diez primeros resultados de una búsqueda de palabras clave apropiadas para niños pequeños, un niño pequeño que sigue las recomendaciones de YouTube tiene un 3,5 por ciento de posibilidades de encontrar un vídeo inapropiado en diez (clics).
YouTube ha realizado cambios en la plataforma en un intento de solucionar el problema de Elsagate.
Se agregó una función donde cualquiera que publique en el sitio web debe hacer clic en un cuadro que indica si el video está destinado a niños o no, lo que ayudó a mitigar el problema.
Papadamou estableció conexiones entre Elsagate y el problema actual con el contenido inapropiado de IA, y le dijo al Daily Mail que le preocupaba la facilidad con la que se podrían crear estos nuevos y preocupantes videos de IA.
“El problema será bastante grande para 2020 con el volumen de vídeos que tenemos, y la mayoría de las acciones están vinculadas a humanos (sic), por lo que no pueden seguir el ritmo”, afirmó.
“Puedes imaginar cómo estos actos no pueden mantener el volumen hoy en día.”
