Se descubrió que cientos de conversaciones de usuarios con el popular chatbot Cloud de inteligencia artificial (IA) de Anthropic eran accesibles prácticamente para cualquier persona que utilizara Google u otros navegadores web.
Los enlaces a chats, algunos de los cuales contienen información personal y laboral, se muestran si un usuario que utiliza un motor de búsqueda como Google utiliza un término de búsqueda específico del sitio.
Las búsquedas mostraban chats en la nube que el usuario decidía “compartir”, poniendo el enlace guardado a disposición del público en general a través de motores de búsqueda como Google.
La disponibilidad de búsqueda de los registros de chat se eliminó durante el fin de semana, pero muchos se guardaron y compartieron ampliamente en línea.
Un portavoz de Anthropic dijo que los usuarios de la nube conservan el control sobre si compartir conversaciones con el chatbot y cuándo hacerlo.
Los enlaces a conversaciones “no se pueden adivinar ni descubrir a menos que las personas decidan compartirlos ellos mismos”, dijo.
“Cuando alguien comparte una conversación, hace que ese contenido sea accesible públicamente y, al igual que otro contenido web público, puede ser archivado por servicios de terceros”, añadió el portavoz.
La opción de compartir en la nube le dice al usuario que “cualquiera con un enlace” puede ver el contenido de ese enlace, pero no indica explícitamente que el enlace termina en Google y en los resultados de búsqueda.
Usuarios en Reddit Encontrado al principio, externo Al menos 25 páginas de chats disponibles públicamente, los resultados de búsqueda incluyen más de 200 conversaciones con Claude, que se remontan a solo unas pocas semanas.
En las conversaciones, los usuarios solicitan al chatbot que responda a una variedad de temas.
“¿Quieres ayudarme o quieres ayudar más a Anthropic?” en los registros de chat. A Claude le preguntaron el año pasado. El chatbot respondió en parte diciendo: “Siento que quiero ayudarte”.
En una conversación de abril, un usuario le pidió a Claude que creara una publicación de blog inédita sobre seguridad en la nube que detallara un proyecto corporativo. En otra del mes pasado, un usuario le preguntó a Claude “¿Cómo convertirse en un zorro de nueve colas?” preguntó, dejando claro que querían transformarse literalmente de hombre a criatura.
La nube primero le da al usuario “Fox Powers completamente funcional”. Intentó mostrar una imagen generada por IA que afirma ser dada.
Otras conversaciones con Claude incluyen usuarios que buscan ayuda con sus currículums, incluidos sus nombres, información de contacto e historial laboral. Algunos usuarios también han realizado investigaciones patentadas para su trabajo, como el de atención médica, incluidas transcripciones de conversaciones privadas.
OpenAI el año pasado cuando ChatGPT tuvo un problema casi idéntico con los registros de chat Estar disponible públicamente, externoAl final de la empresa cambió, externo Estos registros son fácilmente accesibles.
Grok, un chatbot de IA en X, una plataforma social propiedad de Elon Musk, puso a disposición del público cientos de miles de registros de chat el año pasado, a través de una búsqueda en línea.
Un portavoz de Google aclaró a la BBC que la empresa no controla “qué páginas se hacen públicas en la web”, sino que la acción proviene de los propios sitios web.
“Ofrecemos a los propietarios de sitios controles claros para decidir si las páginas pueden rastrearse o indexarse, y siempre respetamos esos controles”.
Dado que ya no se realiza la indexación de búsqueda de registros de chat, es probable que Anthropic utilice las herramientas disponibles para bloquear rápidamente los enlaces de registros de chat de los resultados de búsqueda. El proceso de Google para el propietario de un sitio web Bloquear el enlace, externo Sencillo, pero debe ser iniciado por el propietario del sitio web.
Se contactó a otros motores de búsqueda, incluidos Bing, Brave y Duck Duck Go, a través de los cuales también se encontraron los registros de chat de Claude, para solicitar comentarios.
