Malasia e Indonesia han bloqueado el acceso al chatbot de inteligencia artificial (IA) Grok de Elon Musk por su capacidad para producir deepfakes sexualmente sugerentes.
Grok, una herramienta de la plataforma X de Musk, permite a los usuarios crear imágenes. Pero en las últimas semanas se ha utilizado para editar imágenes de personas reales y mostrarlas con ropa reveladora.
Los países del sudeste asiático han dicho que el grok se puede utilizar para crear imágenes obscenas y no consensuadas que involucren a mujeres y niños. Son los primeros en el mundo en prohibir una herramienta de inteligencia artificial.
La BBC se ha puesto en contacto con Grok Platform para solicitar comentarios. Musk ha dicho anteriormente que los críticos de su plataforma buscan “cualquier excusa para la censura”.
Grok y su empresa matriz X también están bajo presión en Gran Bretaña después de que la Secretaria de Tecnología, Liz Kendall, respaldara los llamados para bloquear el acceso a la plataforma de redes sociales por no seguir las leyes de seguridad en línea.
Los ministerios de comunicaciones de Malasia e Indonesia anunciaron sus acciones contra Grok en declaraciones separadas durante el fin de semana.
La Comisión de Comunicaciones y Multimedia de Malasia dijo el domingo que había emitido avisos a X a principios de este año para que tomara medidas estrictas después de que “abusara repetidamente” de Grok para crear contenido dañino.
Pero en su respuesta, X no abordó los riesgos inherentes al diseño de su plataforma y se centró principalmente en el proceso de presentación de informes para los usuarios, dijo el regulador.
Grok será bloqueado hasta que se implementen medidas de seguridad efectivas y se inste al público a denunciar contenido malicioso en línea.
La ministra de Comunicaciones y Asuntos Digitales de Indonesia, Meetya Hafid, dijo en una publicación en Instagram que usar Grok para crear contenido sexualmente sugerente es una violación de los derechos humanos, la dignidad y la seguridad en línea.
El ministerio pidió a la ex de Musk que aclarara sobre el uso de Grok.
Las autoridades indonesias han tomado medidas enérgicas contra otros tipos de pornografía en línea en los últimos años, y plataformas como Onlyfans y PornHub ya están prohibidas en el país.
Se espera que el regulador británico de medios Ofcom tome pronto una decisión sobre qué hacer con Groke.
El uso de Grok para crear imágenes sexuales ha sido condenado por líderes de todo el mundo, incluido el primer ministro del Reino Unido, Keir Starmer, quien lo calificó de “vergonzoso” y “repugnante”.
