Ofcom ha establecido un “contacto urgente” con la empresa xAI de Elon Musk, cuya herramienta de inteligencia artificial Grok puede utilizarse para crear “imágenes sexuales de niños” y desnudar a mujeres.
Un portavoz del regulador dijo que también estaba investigando la preocupación de que Grok estuviera produciendo “imágenes detalladas” de personas.
La BBC ha visto varios ejemplos. Las mujeres en la plataforma de redes sociales X pidieron al chatbot que manipulara imágenes reales para hacerlas aparecer en bikini sin su consentimiento, así como que las pusiera en situaciones sexuales.
X no respondió a una solicitud de comentarios. domingo, eso es Emitió una advertencia a los usuarios. Grok no se puede utilizar para generar contenido ilegal, incluido material de abuso sexual infantil.
Elon Musk También publicó que Cualquiera que pida a una IA que genere contenido ilegal “sufrirá las mismas consecuencias” que si lo subiera él mismo.
La propia Política de uso aceptable de XAI prohíbe “representar imágenes de personas de manera obscena”.
Pero Grok se está utilizando para desnudar digitalmente a personas sin su consentimiento y sin informarles.
Es un asistente virtual gratuito (pago por algunas funciones premium) que responde a las indicaciones de X usuarios cuando los etiquetan en una publicación.
La periodista Samantha Smith, que descubrió que los usuarios habían utilizado IA para crear fotografías de ella en bikini, dijo el viernes al programa PM de la BBC que se sentía “deshumanizada y reducida a un estereotipo sexual”.
“Aunque no estaba en condiciones de desvestirme, me sentí como yo y me sentí violada porque alguien publicó una foto mía desnuda o en bikini”, dijo.
Según la Ley de Seguridad en Línea, Ofcom dice que es ilegal crear o compartir imágenes íntimas o sexualmente sugerentes -incluidos los “deepfakes” creados con IA- sin el consentimiento de una persona.
También se espera que las empresas tecnológicas tomen “medidas apropiadas” para reducir los riesgos a los que los usuarios del Reino Unido estén expuestos a dicho contenido y que lo eliminen “con prontitud” cuando se den cuenta de ello.
Un portavoz del Ministerio del Interior dijo que era legal prohibir los dispositivos nudistas y que, según el nuevo delito penal, cualquiera que suministre dicha tecnología “se enfrenta a penas de prisión y multas sustanciales”.
