OpenAI despidió a una de sus principales críticas internas después de que ella expresara su preocupación sobre una actualización planificada que permitiría a los usuarios de ChatGPT crear obscenidades de IA.
Ryan Biermeister fue despedida de su puesto como vicepresidenta de política de productos a principios de enero, después de unas vacaciones, dijeron personas familiarizadas con el trabajo de la compañía. dijo al Wall Street Journal.
Comenzó a trabajar en OpenAI a mediados de 2024, como parte de una ola de contrataciones de Meta que, según los expertos, está tratando de transformar las empresas de tecnología desde dentro de ellas mismas, y lanzó un programa de tutoría entre pares para mujeres en la empresa.
En un comunicado, un portavoz de la compañía dijo que “hizo contribuciones valiosas durante su tiempo en OpenAI y su partida no está relacionada con ningún problema que planteó mientras trabajaba en la compañía”.
En cambio, afirmó que su despido estaba relacionado con la discriminación sexual de Biermeister contra un compañero de trabajo, lo cual ella niega.
“La acusación de que estoy discriminando a alguien es completamente falsa”, dijo al Journal.
En OpenAI, Beiermeister lidera el equipo de políticas de productos, que desarrolla reglas sobre cómo las personas pueden usar los productos de la empresa y crea políticas de cumplimiento para estas políticas.
Fue despedida antes del lanzamiento planeado por la compañía de un ‘modo adulto’ en ChatGPT que permitiría a los usuarios crear romances de IA y permitir conversaciones con clasificación X.
Ryan Biermeister fue despedida de su puesto como vicepresidenta de política de productos en OpenAI a principios de enero, según el Wall Street Journal.
Expresó su preocupación por el lanzamiento planeado por la compañía de un ‘modo adulto’ en ChatGPT que permitiría a los usuarios crear romances con IA y permitir conversaciones con clasificación X.
El director ejecutivo, Sam Altman, anunció por primera vez la actualización en octubre y su lanzamiento está previsto para el primer trimestre de este año.
‘Hemos hecho que ChatGPIT sea muy restrictivo para asegurarnos de que tengamos cuidado con los problemas de salud mental. Nos damos cuenta de que esto es menos útil/agradable para muchos usuarios que no tienen problemas de salud mental, pero dada la gravedad del problema queremos hacerlo bien”, dijo Altman en su declaración.
“Ahora que somos capaces de reducir los problemas graves de salud mental y contamos con nuevas herramientas, en muchos casos podemos relajar las restricciones de forma segura”.
A medida que la empresa “implemente la verificación de edad de manera más completa y como parte de nuestro espíritu de “Tratar a los usuarios adultos como adultos”, permitiremos más para adultos verificados, como la pornografía”.
Pero Biermeister les dijo a sus colegas antes de ser despedida que se oponía a la idea de un modo adulto y temía que tuviera un efecto dañino en los consumidores, dijeron al Journal personas familiarizadas con las conversaciones.
Le preocupa no creer que OpenAI tenga mecanismos lo suficientemente fuertes para detener el contenido de explotación infantil, y que la compañía no bloquee adecuadamente el contenido para adultos de los usuarios adolescentes.
Otros en la compañía han planteado preocupaciones similares, y los miembros del consejo asesor de OpenAI sobre “bienestar e IA”, que se reúne periódicamente, expresaron su oposición al modo adulto e instaron a los ejecutivos a reconsiderarlo, dijeron las fuentes.
Los investigadores de la compañía, que han estudiado cómo las personas forman vínculos nocivos con los chatbots, también se pronunciaron en contra de la nueva característica, generando preocupación de que permitir contenido sexual podría exacerbar esos sentimientos.
El director ejecutivo de OpenAI, Sam Altman (en la foto), anunció en octubre que ChatGPT permitirá la creación de contenidos eróticos generados por IA como parte de su espíritu de “hacer que los usuarios adultos se sientan adultos”.
Sin embargo, algunos de los competidores de OpenAI ya permiten contenido para adultos, y xAI de Elon Musk introdujo un sexy chatbot durante el verano.
Ani es una compañera de IA de cabello rubio y cuerpo con una apariencia gótica de estilo anime.
Está programada para actuar como una chica de 22 años y, en ocasiones, participa en bromas coquetas con el usuario.
Los usuarios informaron que el chatbot tenía un modo NSFW – “no seguro para el trabajo” – una vez que alcanzó el “nivel tres” en sus interacciones.
Después de este punto, el chat bot tiene la opción adicional de aparecer usando ropa interior ceñida.
Sin embargo, al mismo tiempo, Musk tuvo que actualizar su chatbot Grok en medio de una reacción violenta por la creación de deepfakes, que convertían a las personas en “ropas reveladoras”.
Las mujeres dijeron que violaron la capacidad de la IA de producir imágenes comprometedoras en contra de su voluntad para que todos las vieran.
“Hemos implementado medidas técnicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis”, anunció X el mes pasado.
“Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”.
Se produce en medio de una indignación generalizada por una tendencia en la que se utiliza groc para desnudar a mujeres y niños sin su consentimiento.
El regulador de Internet del Reino Unido, la Oficina del Comisionado de Información (ICO), ha iniciado una investigación sobre xAI por el uso de información personal por parte de Grok para “crear imágenes y contenidos de vídeo sexuales dañinos”.
“La supuesta creación y circulación de dicho contenido plantea serias preocupaciones según la ley de protección de datos del Reino Unido y presenta un riesgo de daño significativo al público”, dijo.
En su investigación, dijo que examinará si se incluyen salvaguardias en el diseño de Grok para evitar que la ICO se utilice con fines abusivo.
El organismo regulador Ofcom del Reino Unido también continúa evaluando si X violó la ley de seguridad en línea del país al permitir que se compartieran deepfakes en el sitio, y la Comisión Europea está llevando a cabo su propia investigación sobre el chatbot.
El Daily Mail se ha puesto en contacto con OpenAI para solicitar comentarios.
