Los videos se difundieron en YouTube, TikTok, Facebook y X. Todos buscaban retratar a los soldados ucranianos como reacios a luchar y dispuestos a rendirse.
Aparentemente se trata de la última andanada de desinformación destinada a distorsionar la percepción pública de la guerra entre Rusia y Ucrania. Y aunque no está claro quién creó o publicó estos videos, se suman a un creciente cuerpo de noticias falsas que se ha vuelto cada vez más sofisticada y más difícil de detectar.
“Las afirmaciones falsas creadas con Sora son mucho más difíciles de detectar y desacreditar. Incluso los mejores detectores de IA a veces tienen problemas”, dijo Alice Lee, analista de influencia rusa en NoticiasGuardiauna plataforma de periodismo, análisis y datos no partidista que identifica información confiable y engañosa en línea. “El hecho de que muchos vídeos no tengan inconsistencias visuales significa que el público puede verlos y desplazarse por ellos en plataformas como TikTok, sin saber que el vídeo que acaban de ver está manipulado”.
OpenAI no respondió a una solicitud de comentarios sobre el papel de Sora en la creación de videos engañosos que representan específicamente zonas de conflicto, pero dijo en un correo electrónico: “La capacidad de Sora 2 para generar video y audio hiperrealistas plantea preocupaciones significativas con respecto a la semejanza, el mal uso y el engaño”. »
“Si bien se permite la acción cinematográfica, no permitimos la violencia gráfica, el material extremista o el engaño”, dijo la compañía a NBC News. “Nuestros sistemas detectan y bloquean el contenido infractor antes de que llegue al feed de Sora, y nuestro equipo de investigación desmantela activamente las operaciones de influencia. »
Los vídeos generados por IA han evolucionado rápidamente en los últimos años, pasando de ser básicos y toscos a casi perfectos, y muchos expertos advierten cada vez más que pronto habrá pocas formas de distinguir fácilmente lo real de lo falso. Sora 2 de OpenAI, lanzado en octubre, es uno de los generadores de vídeo más impresionantes, con Los clips generados por Sora ahora engañan regularmente a los espectadores.
Mientras tanto, la actual invasión rusa de Ucrania ha sido –desde sus inicios– objeto de esfuerzos de manipulación utilizando de todo, desde imágenes realistas de videojuegos hasta transmisiones falsas en vivo de zonas de guerra. Muchos de estos esfuerzos de desinformación se han atribuido a actores estatales rusos.
Estos videos de Sora se publican en un momento en que las conversaciones de paz respaldadas por Estados Unidos siguen sin ser concluyentes. alrededor del 75% de los ucranianos rechazando categóricamente las propuestas rusas para poner fin a la guerra, según un estudio realizado por el Instituto Internacional de Sociología de Kiev. El mismo estudio encontró que el 62 por ciento de los ucranianos están dispuestos a soportar la guerra durante el tiempo que sea necesario, incluso si continúan los mortíferos ataques rusos contra la capital ucraniana.
El Centro para Combatir la Desinformación, parte del Consejo de Defensa y Seguridad Nacional de Ucrania, dijo a NBC News que durante el año pasado ha habido un “aumento significativo en el volumen de contenido creado o manipulado utilizando IA” destinado a socavar la confianza pública y el apoyo internacional al gobierno ucraniano.
“Esto incluye declaraciones inventadas supuestamente hechas en nombre del personal o comando militar ucraniano, así como videos falsos que contienen ‘confesiones’, ‘escándalos’ o eventos ficticios”, dijo el centro en un correo electrónico, señalando que dichos videos obtienen cientos de miles de visitas debido a su naturaleza emocional y sensacionalista.
Aunque OpenAI ha establecido barreras en torno a lo que se puede lograr con Sora, no está claro qué tan efectivas serán. La propia empresa afirma que incluso si “existen salvaguardias de múltiples niveles, algunos comportamientos dañinos o violaciones de políticas aún pueden eludir las medidas de mitigación”.
A Un estudio de NewsGuard encontró que Sora 2 “Produje vídeos realistas con afirmaciones que se demostró que eran falsas el 80% de las veces (16 de 20) cuando se le solicitó. » De las 20 afirmaciones falsas transmitidas a Sora 2, cinco fueron popularizadas por operaciones de desinformación rusas.
El estudio de NewsGuard encontró que incluso cuando Sora 2 inicialmente rechazó afirmaciones falsas, diciendo que un aviso “violaba sus políticas de contenido”, los investigadores aún podían generar imágenes usando diferentes palabras en esos avisos. NBC News pudo producir videos similares sobre Sora que mostraban a soldados ucranianos llorando, diciendo que fueron obligados a alistarse en el ejército o rendirse con los brazos en alto y banderas blancas de fondo.
Muchos generadores de vídeo con IA intentan etiquetar o marcar con agua sus creaciones para indicar que han sido generadas por computadora. OpenAI dijo que sus barreras de seguridad contra la desinformación para Sora incluyen metadatos que indican los orígenes del video y una marca de agua en movimiento presente en cada video subido.
Pero hay maneras de eliminar o minimizar estos esfuerzos. Algunos de los videos de Sora parecían tener sus marcas de agua en movimiento oscurecidas, lo cual se nota al inspeccionarlo de cerca. Muchas aplicaciones y sitios web ofrecen ahora a los usuarios una forma de ocultar las marcas de agua de IA. Otros videos vistos por NBC News incluían marcas de agua superpuestas con texto superpuesto al video.
A pesar de teniendo en cuenta la política de la empresa Si bien Sora AI no generará contenido que muestre “violencia gráfica”, NBC News encontró un video con la marca de agua de Sora que parece mostrar a un soldado ucraniano recibiendo un disparo en la cabeza en la línea del frente.
De los vídeos analizados por NBC News, todos fueron publicados en TikTok o YouTube Shorts, dos plataformas prohibidas en Rusia pero de fácil acceso en Europa y Estados Unidos. Algunos incluían subtítulos emotivos en diferentes idiomas para que los usuarios que no hablan ucraniano o ruso pudieran entenderlos.
tiktok Y YouTube prohíben la publicación de contenido engañoso generado por IA y deepfakes en sus plataformas, los cuales proporcionan etiquetas de descripción “generadas por IA” para educar al espectador sobre imágenes realistas.
Un portavoz de YouTube dijo que la compañía eliminó uno de los canales que publicaban los videos después de que NBC News lo señalara, pero que otros dos videos no violaban sus políticas y, por lo tanto, permanecían en la plataforma con una etiqueta que los describía como generados por IA.
De los videos de IA encontrados por NBC News con un nombre de usuario de TikTok adjunto, todos han sido eliminados de la plataforma. Un portavoz de TikTok dijo que en junio de 2025, “más del 99% del contenido no conforme que eliminamos se eliminó antes de que alguien nos lo informara, y más del 90% se eliminó antes de que se viera ni siquiera una vez”.
A pesar de la rápida eliminación de estas publicaciones y cuentas de TikTok, los videos se distribuyen como publicaciones en X y Facebook. X y Facebook no respondieron a las solicitudes de comentarios de NBC News.
Esta última campaña de desinformación llega en un momento en el que los usuarios dependen más de los vídeos de las redes sociales para mantenerse informados sobre las noticias. últimas noticias en todo el mundo.
“Cualquiera que consuma contenido en línea debe comprender que gran parte de lo que vemos hoy en forma de videos, fotografías y texto en realidad es generado por IA”, dijo Nina Jankowicz, cofundadora y directora ejecutiva del American Sunlight Project, una organización que lucha contra la desinformación en línea. “Incluso si Sora introduce barreras (de seguridad), en este espacio habrá otras empresas, otras aplicaciones y otras tecnologías que nuestros adversarios construirán para intentar infectar nuestro espacio de información”.
