No confíes ciegamente en lo que te dice la IA, le dice el jefe de Google a la BBC

La gente no debería confiar ciegamente en todo lo que dicen las herramientas de inteligencia artificial, dijo a la BBC el jefe de la empresa matriz de Google, Alphabet.

En una entrevista separada, el director ejecutivo, Sundar Pichai, dijo que los modelos de IA son “propensos a errores” e instó a la gente a utilizarlos junto con otras herramientas.

Esto resalta la importancia de tener un rico ecosistema de información, en lugar de depender de la tecnología de inteligencia artificial, dijo Pichai.

“Es por eso que la gente también utiliza la búsqueda de Google y tenemos otros productos que están más basados ​​en proporcionar información precisa”.

Si bien las herramientas de inteligencia artificial son útiles “si quieres escribir algo creativo”, Pichai dijo que la gente debería “aprender a usar estas herramientas para lo que hacen bien y no creer ciegamente todo lo que dicen”.

Le dijo a la BBC: “Estamos orgullosos del trabajo que hemos realizado para proporcionar la información más precisa posible, pero la actual tecnología de inteligencia artificial de última generación es propensa a tener algunos fallos”.

El mundo de la tecnología ha estado esperando la última versión de Gemini 3.0, el modelo de inteligencia artificial para consumidores de Google que ha comenzado a recuperar participación de mercado frente a ChatGPT.

Desde mayo de este año, Google empieza a introducir un nuevo “modo IA” en sus búsquedas, integrando su chatbot Gemini Su objetivo es brindar a los usuarios la experiencia de hablar con expertos..

En ese momento, Pichai dijo que la integración de Gemini con Search representaba una “nueva fase del cambio de plataforma de IA”.

La medida también es parte de la apuesta del gigante tecnológico por competir contra servicios de inteligencia artificial como ChatGPT, que han amenazado el dominio de las búsquedas en línea de Google.

Sus comentarios respaldan una investigación de la BBC a principios de este año que encontró que los chatbots de IA citaban incorrectamente noticias.

ChatGPT de OpenAI, Copilot de Microsoft, Gemini de Google y Perplexity AI recibieron contenido del sitio web de la BBC y se les hicieron preguntas al respecto, y la investigación de IA encontró respuestas. “Hay errores importantes“.

En su entrevista con la BBC, Pichai dijo que existe cierta tensión entre la rapidez con la que se desarrolla la tecnología y cómo se crean las mitigaciones para prevenir impactos potencialmente dañinos.

Para Alphabet, gestionar la tensión significa ser “valiente y responsable al mismo tiempo”, afirmó Pichai.

“Así que estamos avanzando rápido en este momento. Creo que nuestros clientes lo exigen”, afirmó.

El gigante tecnológico también ha aumentado su inversión en seguridad de IA para igualar su inversión en IA, añadió Pichai.

“Por ejemplo, contamos con tecnología de código abierto que permite determinar si una imagen fue generada por IA”, dijo.

Cuando se le preguntó sobre años de comentarios recientemente descubiertos del multimillonario tecnológico Elon Musk a los fundadores de OpenAI temiendo que DeepMind, ahora propiedad de Google, pudiera crear una “dictadura” de IA, Pichai dijo que “ninguna empresa debería poseer una tecnología tan poderosa como la IA”.

Pero hoy en día hay muchas empresas en el ecosistema de la IA, añadió.

“Si solo hubiera una empresa que construyera tecnología de inteligencia artificial y todos tuvieran que usarla, eso también me preocuparía, pero estamos lejos de ese escenario en este momento”, dijo.