lily jamali,Corresponsal de tecnología en América del Norte Y
Liv McMahon,periodista de tecnología de la BBC
ReutersOpenAI planea permitir una gama más amplia de contenido, incluido contenido erótico, en su popular chatbot ChatGPT, como parte de su esfuerzo por “tratar a los usuarios adultos como adultos”, dice su jefe Sam Altman.
En una publicación en X el martes, Altman dijo que las próximas versiones del popular chatbot podrían comportarse de manera más humana, “pero sólo si así lo deseas, no porque estemos aumentando su uso”.
La medida, que recuerda a los dos chatbots sexualmente sugerentes que xAI de Elon Musk presentó recientemente a Grok, podría ayudar a OpenAI a atraer más suscriptores de pago.
Es probable que esto intensifique la presión sobre los legisladores para que introduzcan restricciones más estrictas a los compañeros de chatbot.
OpenAI no respondió a las solicitudes de comentarios de la BBC.
Altman dijo que OpenAI había hecho previamente ChatGPT “bastante restrictivo para garantizar que tengamos cuidado con los problemas de salud mental”.
Estos son Se anuncian cambios En una publicación de blog de agosto, ya no aparece en el sitio web de OpenAI.
“Nos damos cuenta de que esto es menos útil/agradable para muchos usuarios que no tienen problemas de salud mental, pero dada la gravedad del problema queremos hacerlo bien”, publicó Altman el martes.
“Ahora hemos podido reducir los problemas graves de salud mental y tenemos nuevas herramientas”, dijo, y agregó que ChatGPT pronto podría aliviar las restricciones.
Añadió: “En diciembre, implementamos la verificación de edad de manera más completa y, como parte de nuestro espíritu de ‘tratar a los usuarios adultos como adultos’, permitiremos más, como pornografía, para adultos verificados”.
Los cambios vendrán más tarde. OpenAI fue demandada a principios de este año Por los padres de un adolescente estadounidense que se suicidó
La demanda, presentada por Matt y Maria Raine, los padres de Adam Raine, de 16 años, es la primera acción legal que alega muerte por negligencia de OpenAI.
La familia tiene registros de chat entre Adam, quien murió en abril, y ChatGPT, que explican que tenía pensamientos suicidas.
En un comunicado en ese momento, OpenAI le dijo a la BBC que estaba revisando la presentación.
“Expresamos nuestro más sentido pésame a la familia de Raine en este momento difícil”, dijo la compañía.
Preocupaciones por la seguridad infantil
No se requiere romance escrito Verificación de edad en el Reino Unido Según la Ley de seguridad en línea.
Sin embargo, para las imágenes pornográficas, incluidas las generadas por IA, los usuarios deben demostrar que son mayores de 18 años.
En Estados Unidos, los críticos dicen que la decisión de OpenAI de permitir el romance en la plataforma muestra la necesidad de una mayor regulación a nivel federal y estatal.
“¿Cómo se aseguran de que los niños no puedan acceder a las partes sexualmente explícitas y exclusivas para adultos de ChatGPT?” dijo Jenny Kim, socia del bufete de abogados Boies Schiller Flexner.
La Sra. Kim está involucrada en una demanda contra Meta alegando que el algoritmo de Instagram de la compañía está dañando la salud mental de los usuarios adolescentes.
“OpenAI, como la mayoría de las grandes tecnologías en este espacio, está utilizando a las personas como conejillos de indias”, dijo.
En abril, TechCrunch informó OpenAI permite que las cuentas registradas como usuarios menores creen erótica gráfica.
OpenAI dijo en ese momento que la compañía estaba desarrollando una solución para restringir dicho contenido.
A Encuesta Uno de cada cinco estudiantes informa que ellos o alguien que conocen ha tenido una relación romántica con una IA, según un informe publicado este mes por el Centro para la Democracia y la Tecnología (CDT), una organización sin fines de lucro.
El lunes, el gobernador de California, Gavin Newsom, vetó un proyecto de ley aprobado por la legislatura estatal que habría prohibido a los desarrolladores proporcionar compañeros de chatbot de IA a los niños, a menos que las empresas garanticen que el software no conducirá a comportamientos dañinos.
Newsome dice que es imperativo que los adolescentes aprendan a interactuar de forma segura con los sistemas de inteligencia artificial. mensaje Esto se suma a su veto.
En todo el país, la Comisión Federal de Comercio de EE. UU. (FTC) ha iniciado una investigación sobre cómo los chatbots de IA interactúan con los niños.
El mes pasado, en el Senado de los Estados Unidos, se introdujo una legislación bipartidista para permitir a los usuarios de chatbots presentar demandas de responsabilidad contra sus desarrolladores.
¿Por qué introducir el romance?
El anuncio de Altman el martes generó escepticismo La IA cuestiona la rápida valoración de las empresas tecnológicas.
Los ingresos de OpenAI están creciendo, pero nunca ha sido rentable.
Rob Lalka, profesor de negocios de la Universidad de Tulane, el autor Venture Alchemists dice que las principales empresas de IA se encuentran luchando por cuota de mercado.
“Ninguna empresa ha visto la adopción de OpenAI con ChatGPT”, dijo el profesor Lalka a BBC News.
“Necesitan avanzar a lo largo de esa curva de crecimiento exponencial, para lograr el mayor dominio posible del mercado”, añadió.
