En una importante escalada de tensión entre las empresas de tecnología y las élites políticas, la senadora republicana Marsha Blackburn de Tennessee acusó a Google y sus capacidades de inteligencia artificial de difundir información falsa y difamatoria dirigida específicamente a los conservadores. En una carta reciente al director ejecutivo de Google, Sundar Pichai, Blackburn fabricó acusaciones serias contra ella y otras figuras conservadoras, incluidas acusaciones falsas de acoso sexual por parte de la modelo de talla grande de Google, conocida como Gemma.
Los cargos de Blackburn se derivan de acusaciones de que AI inventó historias sin fundamento sobre su pasado, incluida una historia ficticia sobre haber tenido relaciones sexuales con un policía estatal mientras hacía campaña para un escaño en el Senado estatal. Según Blackburn, Gemma Trouper supuestamente hizo una afirmación falsa, alegando que ella lo presionó para que le recetara medicamentos y que la relación involucraba actos no consensuales. Blackburn insiste en que tales acusaciones son infundadas, diciendo que se postuló para el Senado estatal en 1998 (y no en 1987, como sugiere la historia ficticia) y dice que nunca ha sido acusada de tales cosas.
Esta poderosa acusación se expresó durante una audiencia reciente del Comité de Comercio del Senado que destacó las preocupaciones sobre las “mandíbulas”, donde se acusa a funcionarios gubernamentales de utilizar presión indirecta para obligar a las empresas de tecnología a censurar ciertos contenidos o puntos de vista. Durante esta investigación, Blackburn contactó al vicepresidente de asuntos gubernamentales y políticas públicas de Google, Marcum Erickson, en relación con un fenómeno preocupante llamado “alucinaciones de IA”. Este término se refiere a los casos en los que los modelos de IA producen información inexacta o engañosa que realmente se presenta.
Las preocupaciones del senador reflejan preocupaciones más amplias sobre el impacto de la IA en la configuración de las narrativas públicas. Blackburn enfatiza que las implicaciones de tales ficciones se extienden más allá del prestigio personal; Son sintomáticos de un patrón de sesgo más extendido que, según ella, afecta a los modelos de inteligencia artificial de Google. Sostiene que, ya sea intencionales o como resultado de datos de capacitación sesgados, estos sesgos contribuyen a la erosión de la confianza pública y a la promoción de narrativas políticas peligrosas contra los conservadores.
En su carta, Blackburn quiere que Google aclare cómo Gemma hizo estas afirmaciones falsas, las medidas que la compañía ha implementado para reducir los sesgos políticos o ideológicos en su IA, las fallas que permitieron que ocurriera este incidente y las medidas tomadas para garantizar que dicho material difamatorio se elimine de inmediato y se evite que vuelva a suceder. Le dio a Google hasta el 6 de noviembre para responder a sus consultas.
Los comentarios anteriores de Ericsson sobre la inevitabilidad de las “alucinaciones” de la IA han generado críticas de Blackburn, quien ha pedido medidas inmediatas para detener el despliegue de herramientas de IA hasta que los problemas se aborden adecuadamente. A medida que la controversia se desarrolla, plantea serias dudas sobre las responsabilidades de las empresas de tecnología en la gestión de las poderosas narrativas creadas por las tecnologías de IA y su impacto en el discurso público.
