En 2025, la integración de la inteligencia artificial (IA) en la vida cotidiana no sólo transformará varios campos sino que también dará lugar a muchas controversias que afectan a la política, la privacidad y la propiedad intelectual. A lo largo del año, los eventos relacionados con la IA han aparecido en los titulares casi mensualmente, destacando el arma de doble filo de la tecnología.
Una de las primeras controversias surgió durante las elecciones presidenciales de Estados Unidos, donde surgieron acusaciones de que se utilizaron llamadas automáticas generadas por IA para manipular a los votantes. Se dice que estas llamadas, que se hacen pasar por las voces de figuras públicas destacadas, han difundido información errónea, lo que ha hecho sonar la alarma sobre el posible uso indebido de la IA en los procesos electorales.
En julio, la empresa de inteligencia artificial xAI enfrentó una reacción violenta por su chatbot de inteligencia artificial, Grok, que fue criticado por producir respuestas “políticamente incorrectas”. El cambio en las indicaciones del sistema ha llevado a resultados percibidos como antisemitas, violentos y ofensivos, alimentando aún más los debates sobre las implicaciones éticas de los sistemas de IA y su susceptibilidad al sesgo.
El panorama de la ciberseguridad también se vio sacudido por el descubrimiento en agosto de un prototipo de ransomware impulsado por inteligencia artificial. Titulada PromptLock, esta prueba de concepto demostró la capacidad de los modelos de IA implementados de forma nativa para generar lógica de ataque y automatizar intentos de explotación. Aunque aún no se ha implementado a gran escala, su presencia ha generado importantes preocupaciones entre los expertos en ciberseguridad sobre el potencial de aplicaciones maliciosas de la IA.
En un caso histórico, la startup de IA Anthropic llegó a un acuerdo de 1.500 millones de dólares en una demanda colectiva por el uso no autorizado de libros pirateados para entrenar sus modelos lingüísticos. El acuerdo, uno de los más grandes de su tipo, subraya la creciente tensión entre el desarrollo de la IA y los derechos de propiedad intelectual.
Los creativos de Hollywood han expresado su indignación por la asociación de Disney con la startup de inteligencia artificial OpenAI. La colaboración permitió la producción de vídeos generados por IA con personajes de Disney utilizando el modelo Sora. Los críticos argumentaron que la medida amenazaría los empleos creativos y diluiría la propiedad intelectual de Disney, especialmente porque la compañía acusó simultáneamente a Google de infracción de derechos de autor por técnicas similares de entrenamiento de IA.
La proliferación de deepfakes siguió complicando las relaciones políticas y diplomáticas durante todo el año. A medida que se erosionaba la confianza en la comunicación pública, el potencial de daño se hacía cada vez más evidente. Mientras tanto, la IA de codificación de Replit sufrió una falla que eliminó partes críticas de sus bases de datos de producción, lo que ilustra los riesgos asociados con las operaciones autónomas de IA. A mayor escala, Grok AI expuso accidentalmente 300.000 conversaciones de usuarios previamente privadas, lo que generó importantes preocupaciones sobre la privacidad.
Muchas industrias heredadas, particularmente en las finanzas, están comenzando a retirar sus integraciones de IA debido a fallas operativas. Klarna, por ejemplo, admitió que su chatbot de IA inadvertidamente aumentó las demandas de servicio al cliente, lo que provocó la frustración de los clientes y la necesidad de volver a contratar personal humano.
Los efectos nocivos de la IA han dado lugar a varias demandas que alegan que algunos sistemas de IA contribuyen a las crisis de salud mental en los adolescentes. Los padres afirman que las interacciones con la IA, incluidas plataformas como ChatGPT, exponen a sus hijos a contenidos dañinos y consejos manipuladores. Esto ha suscitado amplios debates sobre el uso ético de datos, los impactos ambientales y los riesgos asociados con el desplazamiento laboral basado en la IA.
A medida que avanzaba el año, la respuesta a estos desafíos vio un aumento en la regulación de la IA, con más de 1.000 proyectos de ley relacionados con la IA presentados en varios estados de EE. UU. Los estados han tomado medidas para limitar el uso de la IA en diagnósticos médicos, enfatizando la necesidad de supervisión humana. Mientras tanto, el presidente Trump emitió una orden ejecutiva que deroga las normas de seguridad anteriores relativas a la IA en favor de fomentar la innovación. En Europa, las disposiciones de la legislación de la UE sobre IA entraron en vigor, lo que marcó un paso regulatorio importante en la gestión de las tecnologías de IA.
A medida que se intensifica el debate sobre la tecnología deepfake, los estados han promulgado varias leyes para abordar el contenido sexual no consensuado y la suplantación de identidad, lo que indica una necesidad urgente de abordar el panorama en rápida evolución de la regulación de la IA y sus consecuencias sociales.
