La policía alemana ha emitido una advertencia sobre una estafa en línea que involucra a mujeres policías generadas por IA.
La policía de Hamburgo dijo que ha habido un aumento en los perfiles de redes sociales que presentan deepfakes de mujeres atractivas vestidas con uniformes de policía.
La fuerza policial dijo que las cuentas se estaban utilizando para atraer a los hombres en las redes sociales a hacer clic en sitios web pagos para ver imágenes realistas de mujeres policías generadas por IA.
“Estamos recibiendo cada vez más informes sobre perfiles de redes sociales generados por IA que representan a colegas femeninas de la policía de Hamburgo”, dijo la policía en un comunicado.
El portavoz de la policía, Florian Abenseth, afirmó: “Perfiles como este dañan la reputación de la policía, por eso estamos tomando medidas decisivas contra ellos”.
Las imágenes generadas por IA muestran a mujeres jóvenes y atractivas posando con ajustados uniformes de policía.
En una foto, una rubia se sube la cremallera de la chaqueta para revelar algo de escote.
Otra imagen muestra a una mujer vistiendo un uniforme ajustado mientras se ve a un hombre fotografiando su trasero. No está claro si la persona en la imagen es real o generada por IA.
La policía alemana ha emitido una advertencia sobre una estafa en línea que involucra a mujeres policías generadas por IA
La imagen muestra una imagen generada por IA de una mujer vestida con uniforme de policía alemán, con un hombre fotografiándola por detrás. No se sabe si la imagen del hombre es real o generada por IA.
La policía de Hamburgo dijo que las cuentas se estaban utilizando para atraer a los usuarios de las redes sociales a hacer clic en sitios web pagos para ver imágenes realistas de mujeres policías generadas por IA.
Una tercera imagen muestra a un policía generado por IA arrodillado en el suelo y posando para una selfie en el espejo.
La policía de Hamburgo ha confirmado que no mantiene ninguna cuenta privada de Instagram para sus agentes y ha anunciado que ya se están considerando acciones legales por el contenido de IA.
La policía obliga a los usuarios de Instagram a denunciar perfiles falsos en las redes sociales
El uso de deepfakes, como imágenes y vídeos generados por IA que parecen personas reales, ha aumentado los riesgos para las empresas y organizaciones en los últimos años.
A principios de este año, la Unión Internacional de Telecomunicaciones de las Naciones Unidas instó a las empresas a utilizar herramientas avanzadas para identificar y eliminar la desinformación y el contenido deepfake para ayudar a combatir el fraude financiero.
La UIT pidió estándares más estrictos para combatir la manipulación multimedia y recomendó que los distribuidores de contenido, como las plataformas de redes sociales, utilicen herramientas de verificación digital para autenticar imágenes y videos antes de compartirlos.
“La confianza en las redes sociales ha disminuido drásticamente porque la gente no sabe qué es real y qué es falso”, afirmó Bilel Jamousi, jefe de grupos de estudio de la Oficina de Normalización de la UIT.
La policía de Hamburgo negó haber utilizado imágenes generadas por IA y amenazó con emprender acciones legales.
La policía ha pedido a los usuarios de Instagram que denuncien perfiles falsos en las redes sociales
El uso de deepfakes ha aumentado los riesgos para empresas y organizaciones en los últimos años
Combatir los deepfakes es un desafío importante debido a la capacidad de la IA generativa para generar multimedia realista, dijo.
Leonard Rosenthal, del líder en software de edición digital Adobe, que se ocupa de los deepfakes desde 2019, enfatizó la importancia de establecer la procedencia del contenido digital para ayudar a los usuarios a evaluar su credibilidad.
“Necesitamos más lugares donde los usuarios consuman su contenido para mostrar esta información… Cuando te desplazas por tus feeds quieres saber: ‘¿Puedo confiar en esta imagen, este vídeo…'”, dice Rosenthal.
