La mamá bebé de Elon Musk, Ashley St. Clair Grok, es una de las muchas personas enojadas con el CEO de X por permitir a los usuarios crear pornografía deepfake de su hijo de 14 años.
La directora ejecutiva de Tesla, de 31 años, está en el proceso de luchar por la custodia de su hijo Romulus, de casi un año, y habló después de que sus amigos la alertaran sobre imágenes lascivas generadas por usuarios.
Me enteré que Grok me estaba desnudando y era una foto mía completamente vestida, alguien me pidió que me pusiera un bikini y así lo hizo’, dijo a Inside Edition, agregando que una de las fotos era de apenas 14 años.
‘Estas son mis fotos reales, me desnudan. Encontraron una foto mía cuando tenía 14 años y me quitaron la ropa de cuando tenía 14 años y me pusieron un bikini’, dijo.
St. Clair, quien dijo que estaba “disgustada y violada”, se comunicó con Groke para intentar eliminar las imágenes ofensivas, con resultados mixtos.
“Algunos lo hicieron, otros tardaron 36 horas y algunos todavía están allí”, dijo.
St. Clair dijo el jueves que recibió una violación de los términos de servicio por quejarse en su propia cuenta X.
“Me quitaron el cheque azul más rápido de lo que MechaHitler me quitó el contenido de pornografía infantil + abuso sexual (si te preguntas cómo funciona la política de ‘pagar $8 por abusar de mujeres y niños’, todavía funciona)”, escribió.
La mamá bebé de Elon Musk, Ashley St Clair (en la foto), es una de las muchas enojadas con el CEO de X por Grok, quien permitió a los usuarios crear pornografía deepfake de ella cuando tenía 14 años.
La mujer de 31 años, que está en el proceso de luchar contra el CEO de Tesla (en la foto) por la custodia de su hijo Romulus, de casi un año, está hablando después de que sus amigos la alertaran sobre imágenes lascivas generadas por usuarios.
St. Clair afirma que Musk es “consciente del problema” y que si quiere detenerlo “no sucederá”.
Cuando se le preguntó por qué no dejaba de usar pornografía infantil, ella dijo: “Esa es una gran pregunta que la gente debería hacerle”.
En su cuenta, continuó criticando al hombre más rico del mundo, escribiendo que los 44 mil millones de dólares que gasté en comprar X “no fueron para la libertad de expresión”.
X no respondió a la solicitud de comentarios de The Daily Mail, pero anunció el viernes que sólo los suscriptores de pago pueden utilizar Grok, lo que significa que su nombre e información de pago deben estar archivados.
La Organización de Seguridad en Internet dijo que sus analistas habían determinado que había “imágenes criminales de niños de entre 11 y 13 años creadas utilizando la herramienta (Groc)”.
El chatbot, al que se accede a través de la plataforma de redes sociales X de Musk, ha estado concediendo en las últimas semanas oleadas de lo que los investigadores dicen que son solicitudes de usuarios maliciosos para editar imágenes de mujeres en bikini o en posiciones sexualmente sugerentes.
En algunos casos, los investigadores advirtieron que algunas imágenes parecían representar a niños. Los gobiernos de todo el mundo han condenado la plataforma y han iniciado investigaciones.
El viernes, Grok respondió a las solicitudes de cambio de imágenes con este mensaje: ‘La generación y edición de imágenes está actualmente limitada a suscriptores pagos. Puedes suscribirte para desbloquear estas funciones.’
“Encontré que Grok me estaba desnudando y era una foto mía completamente vestida, alguien me pidió que me pusiera un bikini”, dice St Clair, una de las cuales es de ella con tan solo 14 años.
Aunque el número de suscriptores de Grok no está disponible públicamente, el viernes se produjo una caída notable en el número de aparentes deepfakes que Grok está produciendo ahora en comparación con hace apenas unos días.
Grok aún acepta solicitudes de imágenes, pero solo de X usuarios con marcas de verificación azules para un suscriptor premium que paga $8 al mes por funciones que incluyen límites de uso elevados para el chatbot.
Associated Press confirmó el viernes por la tarde que la herramienta de edición de imágenes todavía está disponible para los usuarios gratuitos en el sitio web y la aplicación independientes de Grok.
Los límites al ahorro de los suscriptores pagos no parecen haber cambiado la opinión de los líderes o reguladores europeos.
‘Esto no cambia nuestro problema fundamental. Suscripción paga o suscripción no paga, no queremos ver ese tipo de imágenes. Es muy sencillo”, afirmó Thomas Regnier, representante de la comisión ejecutiva de la Unión Europea.
La comisión acusó anteriormente a Groke de comportamiento “ilegal” y “horrible”.
St. Clair afirma que Musk es “consciente del problema” y si quiere detenerlo “no sucederá”
Grok es gratuito para los usuarios de X que pueden hacer preguntas en la plataforma de redes sociales. Pueden etiquetarlo en publicaciones que crean directamente o en respuestas a publicaciones de otros usuarios.
La función se lanzó en 2023. El verano pasado, la compañía agregó una función de generación de imágenes llamada Grok Imagine, que incluye el llamado “modo picante” que puede generar contenido para adultos.
El problema se ve amplificado por el hecho de que Musk está presentando su chatbot como una alternativa a sus rivales y que las imágenes de Grok son públicas y, por lo tanto, se difunden fácilmente.
Musk afirmó anteriormente que “cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”.
X dijo que tomará medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario”.
