Ha comenzado una nueva controversia en torno a la herramienta de codificación Grok Build de xAI después de que un investigador de seguridad afirmara que estaba cargando repositorios de código completos de los usuarios a la nube de xAI sin informarles claramente.
El tema fue ampliamente discutido después de que el experto en seguridad de software Hari publicara al respecto en
El director ejecutivo de OpenAI, Sam Altman, reaccionó a la publicación de Hari con una sola palabra: “preocupante”.
Más tarde, xAI respondió públicamente a las acusaciones sobre X. La compañía dijo que se toma en serio la privacidad del usuario y respeta las elecciones de los clientes. xAI dijo que los clientes empresariales que utilizan Zero Data Retention (ZDR) nunca almacenan su código ni rastrean datos.
Lo que descubrieron los investigadores
Según The Hacker News, Grok Build no solo enviaba archivos necesarios para tareas de codificación. Estaba cargando repositorios Git completos, incluido el historial de confirmaciones completo, en un Depósito de Google Cloud Storage operado por xAI.
Un repositorio Git es una carpeta donde se almacenan los archivos de un proyecto y su historial de cambios completo. La investigación fue realizada por un investigador que publica bajo el nombre de cereblab.
El investigador probó la versión 0.2.93 de Grok Build. Durante las pruebas, el investigador interceptó una de las descargas enviadas por Grok Build. La descarga interceptada permitió al investigador recrear el repositorio Git descargado. El repositorio recreado incluía un archivo que a Grok se le indicó específicamente que no leyera durante la tarea de codificación. Esto sugiere que los archivos se descargaron a pesar de que el modelo de IA nunca los abrió ni los usó.
Tamaño de descarga
El investigador también midió la cantidad de datos enviados por Grok Build durante las pruebas. En una prueba que utiliza un repositorio de 12 GB, el El propio modelo de IA solo intercambió alrededor de 192 KB de datos en respuesta a la solicitud.
Sin embargo, la descarga del almacenamiento independiente transfirió 5,10 GiB de datos desde el repositorio. Según el investigador, esto era casi 27.800 veces más datos de los que el modelo realmente necesitaba para completar la tarea de codificación, según The Hacker News.
Lea también: Cómo China amenaza la seguridad nacional de EE. UU. mediante el robo de IA: explicado
La prueba del archivo canario
El investigador insertó un archivo de prueba especial llamado never_read_canary.txt en el repositorio. El archivo contenía un marcador único para ver si se descargaba. Aunque Grok Build nunca leyó este archivo durante la tarea de codificación, se encontró en el repositorio descargado. El paquete descargado también contenía el historial completo de confirmaciones de Git del repositorio.
Archivos secretos y credenciales.
La investigación también se centró en cómo Grok Build manejó los archivos secretos. Según el informe de The Hacker News, si Grok abría un archivo, su contenido se enviaba directamente al modelo de IA. Durante las pruebas, se cargó un archivo .env rastreado que contenía claves API y contraseñas de bases de datos sin redactar la información. El mismo archivo también se incluyó en un archivo de sesión enviado para su almacenamiento. Sin embargo, el informe afirma que el comportamiento en sí es preocupante porque los archivos confidenciales se pueden descargar sin eliminar información confidencial.
Configuración de privacidad
El investigador también probó Grok Build con la opción “Mejorar modelo” desactivada. A pesar de deshabilitar esta opción, el repositorio aún se cargó en el almacenamiento. El informe de Hacker News indica que el servidor seguía devolviendo el parámetro trace_upload_enabled: verdadero. Según el investigador, deshabilitar el entrenamiento del modelo no impide que se descargue el código.
Comparación con otras herramientas de codificación de IA
Sin embargo, el investigador dijo que enviar un repositorio completo y su historial es mucho más amplio que enviar solo los archivos necesarios para una tarea. El investigador comparó Grok Build con otros Herramientas de codificación de IA, como señala The Hacker News. Claude Code y OpenAI Codex no descargaron todos los paquetes del repositorio durante las pruebas. Grok Build fue la única herramienta en la comparación que pudo descargar todo el espacio de trabajo.
Respuesta de xAI
El 13 de julio, la versión 0.2.93 de Grok Build dejó de realizar solicitudes de descarga de almacenamiento. El servidor también supuestamente cambió su configuración a Disable_codebase_upload: true y trace_upload_enabled: false, según The Hacker News.
Comentarios de Elon Musk
xAI abordó el problema principalmente a través de publicaciones en X en lugar de emitir un aviso de seguridad formal o un registro de cambios. Elon Musk también se pronunció al respecto. Musk dijo que cualquier dato de usuario cargado antes de los cambios sería “completa y totalmente eliminado”, dijo Elon Musk.
