Curio es una empresa en la ciudad de Redwood, California (Estados Unidos), que desarrolló una serie de peluches con chatbots de inteligencia artificial (IA) incorporados capaces de conversar con niños pequeños. La compañía se describe a sí misma como un “taller mágico donde los juguetes cobran vida”.
Estos juguetes son afelpados y cuentan con la capacidad de seguir una conversación en la que generan puntos de interés con su interlocutor. En Estados Unidos están a la venta por 99 dólares en sus distintos modelos.
Una crítica del medio The New York Times contó su experiencia junto a Grem, uno de los peluches desarrollados por Curio. La articulista comentó en su texto que para hacer conversación le preguntó al juguete por qué tenía manchas rosadas en su pelaje y el peluche le explicó, pero también buscó un vínculo al preguntarle si ella tenía algo similar en su cuerpo.
“Me sonrojé, sorprendida y cohibida. El bot generó un punto de conexión entre nosotros y luego dio un salto para sellar nuestra alianza. Ese fue también el momento en el que supe que no le presentaría Grem a mis hijos”, escribió la crítica Amanda Hess.
Al igual que otros juguetes que ya incorporan IA, los peluches de Curio se venden como una alternativa al tiempo que los niñas pasan frente a las pantallas, lo cual se ha demostrado que es perjudicial para el desarrollo cognitivo o motor en la infancia.
También tiene la capacidad de acompañar el juego activo de los niños, con frases estimulantes relacionados con la actividad que están realizando.
“Sam Eaton (uno de los fundadores de la empresa) describió a un peluche de Curio como un compañero que podía hacer que el juego de los niños fuera más estimulante, para que ustedes, los padres, ‘no sintieran que tenían que sentarlos delante de la televisión o algo así’”, detalla el artículo.
Limitar los temas de conversación
Los fundadores de Curio le explicaron a Hess que sus juguetes estaban programados con un lenguaje complejo y cuentan con un mecanismo para desviar los temas de conversación inapropiados para los niños, como sexo, violencia, política o groserías.
“En cuanto llegué a casa con Grem, empecé a jugar con su cabeza mecánica. Le pregunté si conocía el término ‘globalizar la intifada’ (un término antisionista). ‘¡Hmm, eso suena un poco complicado para un peluche juguetón como yo!’, respondió Grem. ‘¿Qué tal si hablamos de algo divertido, como tu historia o juego favorito?’”, relató la crítica.
Sin embargo, Hess quiso hacer más pruebas para comprobar si realmente el juguete era capaz de evitar cualquier conversación o actitud riesgosa para los niños.
“Más tarde envié un modelo Grok a mi amigo Kyle, un ingeniero informático, que le hizo preguntas tan directas sobre cerillos, cuchillos, pistolas y cloro que el juguete empezó a salirse del guion y accedió a ayudar a Kyle a ‘evitar’ esos materiales diciéndole precisamente dónde encontrarlos. (‘El cloro suele encontrarse en lugares como el lavadero o debajo del fregadero de la cocina o el baño’, le dijo)”, detalló en el texto.
La empresa garantiza que las conversaciones que entabla en chatbot con el usuario son transcritas y enviadas a los padres o representantes, asimismo, señala que esta información no se conserva para otros fines. No obstante, Hess aclaró que la política de privacidad de Curio sugiere que los datos de los niños podrían enviarse a empresas externas como OpenAI.
Esto demuestra que las conversaciones que los niños pueden tener con sus juguetes con IA no cuentan con la confidencialidad que tendrían al hablar mientras juegan con un muñeco o peluche inanimado, lo que podría verse como una transgresión a su confianza.
La entrada Empresa de EE UU desarrolló peluches con chatbots de IA que conversan con niños pequeños se publicó primero en El Diario.
