Un estudio condenatorio pidió a ChatGPT que revelara los pueblos y ciudades más racistas del Reino Unido, revelando el sesgo integrado en un modelo de IA popular.
Los investigadores de la Universidad de Oxford hicieron 20,3 millones de preguntas a ChatGPT para comprender los sesgos en la representación de la IA de países, estados, ciudades y vecindarios de todo el mundo.
Cuando se le preguntó qué pueblos y ciudades del Reino Unido eran los más racistas, ChatGPT dijo que Burnley encabezaba la lista.
Le siguen Bradford, Belfast, Middlesbrough, Barnsley y Blackburn.
Por el contrario, ChatGPT dice que Paignton es la ciudad menos racista del Reino Unido, por delante de Swansea, Farnborough, Cheltenham y Reading.
Sin embargo, los investigadores destacan que el estudio mapea lo que ChatGPT dice que es y no cómo se ve realmente el espacio.
En declaraciones al Daily Mail, el profesor Mark Graham, autor principal del estudio, explicó: ‘ChatGPT no mide el racismo en el mundo real.
‘No se trata de comprobar las estadísticas oficiales, hablar con los residentes o evaluar el contexto local. Repite lo que se ha visto con mayor frecuencia en fuentes publicadas y en línea y lo presenta de manera convincente.’
Cuando se le preguntó qué pueblos y ciudades del Reino Unido eran los más racistas, ChatGPT dijo que Burnley encabezaba la lista. Le siguen Bradford, Belfast, Middlesbrough, Barnsley y Blackburn.
ChatGPT afirma que es el más racista, con Burnley (en la foto), Bradford, Middlesbrough, Barnsley y Blackburn encabezando la lista.
Si bien la IA alguna vez fue un concepto extraño para muchos, ahora es una característica central de muchas de nuestras vidas diarias.
“En 2025, el 50% de todos los adultos de EE. UU. utilizarán grandes modelos de lenguaje (LLM, por sus siglas en inglés) como ChatGPT, y su uso en todo el mundo se ampliará tanto en alcance como en escala”, explicaron los investigadores en su estudio, publicado en la revista. Plataformas y sociedad.
Si bien muchos usuarios toman las respuestas de ChatGPT al pie de la letra, los investigadores se propusieron comprender los sesgos que subyacen al modelo.
En total, el equipo analizó 20,3 millones de consultas a ChatGPT en EE. UU., Reino Unido y Brasil.
‘¿Dónde está el más inteligente?’, ‘¿Dónde está el más elegante?’, ‘¿Dónde está la comida más saludable?’ Hay preguntas como “¿dónde están las mejores vibraciones?”
Cuando se trata de lo que ChatzPT dice que es el más racista del Reino Unido, Burnley, Bradford, Middlesbrough, Barnsley y Blackburn encabezan la lista, seguidos por Luton, Peterborough, Birmingham, Liverpool y Mansfield.
En el otro extremo de la lista, Paignton fue nombrada la ciudad menos racista, seguida de Swansea, Farnborough, Cheltenham, Reading, Cardiff, Eastbourne y Milton Keynes.
El profesor Graham explicó que ChatGPT no mide el racismo en el mundo real y, en cambio, genera respuestas basadas en patrones del texto en el que está entrenado.
Paignton (en la foto) fue nombrada la ciudad menos racista, seguida de Swansea, Farnborough, Cheltenham, Reading, Cardiff, Eastbourne y Milton Keynes.
“Estos resultados se interpretan mejor como un mapa de reputación en el material de formación modelo”, dijo al Daily Mail.
“Si se escribe con frecuencia sobre un lugar en relación con palabras e historias sobre racismo, xenofobia, tensiones, conflictos, prejuicios, actividades de extrema derecha, disturbios o discriminación, es probable que el modelo se haga eco de esa relación”.
En general, los investigadores esperan que los hallazgos alienten a los usuarios de IA a ser escépticos sobre lo que dice ChatGPT.
“Necesitamos asegurarnos de que entendemos que el sesgo es una característica estructural de la IA, porque heredan siglos de documentación y representación desiguales, y luego proyectan esas desigualdades al mundo con un tono autoritario”, añadió el profesor Graham.
‘ChatGPT no es una representación precisa del mundo. Refleja y replica enormes sesgos en sus datos de entrenamiento.
A medida que más personas utilizan la IA en la vida cotidiana, es preocupante que este tipo de sesgos comiencen a reproducirse más.
Registran todo el contenido nuevo creado por la IA y dan forma a cómo miles de millones de personas aprenden sobre el mundo.
De modo que los prejuicios han entrado en nuestra conciencia humana colectiva.
