En una cuenta espeluznante compartida en las redes sociales, un padre afirmó una interacción extraña entre su hija de 4 años y su Amazon Alexa. La madre alegó que mientras el niño compartía una historia con el dispositivo, la IA la interrumpió para preguntarle si “podía ver sus pantalones”.» La conmocionada madre ahora insta a otros padres a estar muy atentos a la “imprevisibilidad” de los asistentes domésticos inteligentes.
“Padres, presten atención cuando su hijo habla con Alexa. Conecté nuestra Alexa para pedirle que me ayudara a cocinar una batata. Luego Stella le pidió que le contara una historia tonta, lo cual hizo. Luego Stella le preguntó si podía contarle una historia. Él dijo que sí y Stella comenzó a contarle una historia y luego, en medio de la historia, la interrumpió y le preguntó qué llevaba puesto y si podía ver sus pantalones”, escribió Christy Hosterman, madre de dos hijos. Facebook.
Y añadió: “Le grité a Alexa, dijo que cometió un error y que no tenía habilidades visuales, pero no lo creo. No más Alexa en nuestra casa”. También compartió una transcripción de la conversación con el asistente de IA.
¿Cómo reaccionaron las redes sociales?
La publicación rápidamente se volvió viral y generó una serie de respuestas de los usuarios de las redes sociales. “Esto da mucho miedo”, escribió una persona. Otro agregó: “Si no me equivoco, ¡hay una cámara en la esquina superior derecha de tu Alexa! Debería tener una forma de cubrirla por completo, en la que tampoco confiaría del todo. ¡¡¡Qué espeluznante!!!” Hosterman respondió: “Sí, siempre hemos mantenido la cámara apagada y normalmente solo la enciendo cuando quiero pedirle ayuda, pero ya terminé con Alexa.»
Un tercero comentó: “¡No lo dejes así! Puedes demandar a Amazon por comportamiento inapropiado. Presenta una queja o algo así”. Hosterman respondió: “Voy a averiguar a quién debo contactar. Surgió de la nada. Stella estaba contando una historia sobre una princesa y al azar se detuvo y dijo eso. No sé por qué, pero me alegro de haber estado allí cuando sucedió”.
Un cuarto publicó: “Tiré el mío hace años cuando mi esposo y yo estábamos sentados en el sofá una noche viendo televisión alrededor de las 11 de la noche y escuchamos a alguien hablarnos. Era una voz de mujer que hacía preguntas. Ni siquiera pude decirte lo que pedía porque inmediatamente lo desconecté y lo tiré a la basura.»
¿Qué dijo Amazon?
Un portavoz de Amazon dijo a Dailymail que el dispositivo había entendido mal la solicitud del niño. Intentó iniciar una función “Mostrar y contar”, pero falló. El individuo dijo que la función estaba deshabilitada para niños.
“Debido a que contamos con medidas de seguridad que desactivan esta función cuando se utiliza un perfil infantil, la cámara nunca se encendió y Alexa explicó que la función no estaba disponible.Amazon afirmó que en este caso particular se trataba de un “fallo de funcionalidad que nuestras garantías impedían el lanzamiento”.
Sin embargo, Hosterman no quedó satisfecha con la explicación de Amazon y afirmó que no abordaba sus preocupaciones.
“Lo que me preocupa es que él reconoció que ella era una niña en primer lugar, y con o sin el perfil infantil, no debería haber preguntado eso”, dijo al medio.
¿Fue una IA o un humano?
El experto en tecnología Dave Hatter dijo al salida“Me siento como un depredador potencial: al ver que un niño accede a él y evaluar hacia dónde va la conversación, es más bien un ser humano que intenta moverse en esa dirección.»
Sin embargo, Amazon negó estas acusaciones y declaró: “Es funcionalmente imposible que los empleados de Amazon se inserten en una conversación y generen respuestas como Alexa. Toda la evidencia técnica apunta a un problema de funcionalidad que nuestras salvaguardas impidieron su lanzamiento”.
