La plataforma de redes sociales X de Elon Musk ha provocado indignación por utilizar su chatbot de inteligencia artificial Grok para alterar fotografías de mujeres quitándoles la ropa.
La BBC vio varios ejemplos de mujeres a las que se hacía aparecer en bikini sin su consentimiento, además de ser colocadas en situaciones sexuales.
XAI, la compañía detrás de Grok, no respondió a las solicitudes de comentarios de la BBC, excepto por una respuesta generada automáticamente de “mentiras de los medios heredados”.
Un portavoz del Ministerio del Interior dijo que era legal prohibir los dispositivos nudistas y que, según el nuevo delito penal, cualquiera que suministre dicha tecnología “se enfrenta a penas de prisión y multas sustanciales”.
El regulador Ofcom dijo que las empresas de tecnología deben “evaluar el riesgo” de que las personas en el Reino Unido vean contenido ilegal en sus plataformas, pero no confirmó si actualmente estaba investigando a X o Grok por las imágenes de IA.
Grok es un asistente de inteligencia artificial gratuito (algunas de ellas con funciones premium de pago) que responde a las indicaciones de X usuarios cuando lo etiquetan en una publicación.
A menudo se utiliza para reaccionar o proporcionar más contexto a los comentarios de otros usuarios, mientras que la gente de X puede editar una imagen cargada a través de su función de edición de imágenes con IA.
Ha sido criticado por permitir a los usuarios crear fotografías y vídeos con desnudos y contenido sexual, y anteriormente ha sido acusado de Haciendo un clip sexualmente sugerente de Taylor Swift.
Clare McGlynn, profesora de derecho en la Universidad de Durham, dijo que X o Groke “podrían prevenir este tipo de abusos si quisieran”, y agregó que “parecen disfrutar de impunidad”.
“La plataforma ha estado permitiendo que estas imágenes se creen y distribuyan sin ninguna acción durante meses y todavía no hemos visto ningún desafío por parte de los reguladores”, dijo.
Propiedad de XAI Política de uso aceptable Prohíbe “representar imágenes de personas de manera obscena”.
En una declaración a la BBC, Ofcom dijo que era ilegal “crear o compartir imágenes íntimas no consensuadas o material de abuso sexual infantil” y confirmó que esto incluía deepfakes sexuales creados con IA.
Dijo que plataformas como X deben tomar “medidas apropiadas” para “minimizar el riesgo” de que los usuarios del Reino Unido encuentren contenido ilegal en sus plataformas y eliminarlo rápidamente cuando se den cuenta de ello.
Información adicional de Chris Vallance.
