NUEVA YORK– OpenAI recibió una citación de varios estados en una investigación sobre la seguridad de los usuarios de su chatbot mientras se prepara para ofrecer acciones al público por primera vez.
La compañía detrás del popular chatbot, ChatGPT, dijo que respondería a la investigación de manera “constructiva” y que ya había implementado medidas para proteger a sus clientes.
“La IA es una tecnología nueva y poderosa, y trabajamos todos los días para brindar sus beneficios a las personas de manera responsable y segura”, dijo un portavoz en un comunicado enviado por correo electrónico. “Nos tomamos en serio las preocupaciones planteadas por los fiscales generales estatales. »
OpenAI fue criticado porque ChatGPT supuestamente ofrecía palabras alentadoras a los usuarios que pensaban en suicidarse o cometer actos delictivos. También se ha enfrentado a un escrutinio sobre cómo utiliza los datos de salud y otra información personal de sus clientes.
El jueves, la empresa fue demandada por un canadiense, acusando al chatbot de ser responsable de la decisión de su hija de ahorcarse. A principios de junio, el Fiscal General de Florida demandó a la empresa después de dos tiroteos separados en los que presuntos pistoleros supuestamente hicieron preguntas a ChatGPT mientras planeaban sus crímenes.
OpenAI dijo en un comunicado que sus modelos alentaron repetidamente a las personas a buscar apoyo en el mundo real, incluso de profesionales de la salud mental. La compañía también dijo que cooperó con las autoridades en ambos tiroteos.
La nueva sonda llega unos días después el presento documentos con los reguladores de valores de EE. UU. para una oferta pública inicial de acciones muy esperada. La inteligencia artificial compite con SpaceX celebró su propia salida a bolsa Viernes. El fabricante de cohetes fundado por Elon Musk también dirige una empresa de inteligencia artificial responsable de un chatbot rival llamado Grok.
Cómo deberían responder los gobiernos al potencial beneficioso y potencialmente peligroso de la IA se está convirtiendo en una cuestión política importante.
Reguladores europeos investigaciones abiertas en Grok de Musk por contenido antisemita y material sexualizado, incluido desnudos falsos. Y el viernes, la administración Trump ordenó a otra empresa de chatbot que prepara una oferta pública inicial, Anthropic, que cerrar dos de sus modelos online a usuarios en el extranjero por razones de seguridad nacional.
El Wall Street Journal informó anteriormente sobre la citación de OpenAI.
The Associated Press envió correos electrónicos a una docena de fiscales generales estatales el sábado solicitando detalles sobre la investigación, pero no recibió respuesta.
En su comunicado, OpenAI destacó las medidas que ha tomado para garantizar la seguridad de los niños que utilizan su chatbot.
“El ChatGPT de hoy incluye una experiencia más protectora para menores y personas que enfrentan situaciones difíciles, con salvaguardas que los dirigen a recursos del mundo real y conexiones humanas confiables”, se lee en parte del comunicado. “Creemos que los niños deben ser tratados como niños, por eso creamos una predicción de edad, lanzamos herramientas para padres para guiar el uso de la IA por parte de sus hijos y prohibimos la publicidad dirigida a niños”.
