Los juguetes para niños con inteligencia artificial ya están aquí, pero ¿son seguros?

Los ositos de peluche y mu ecos de felpa han sido durante mucho tiempo un elemento b sico en las colecciones de juguetes Pero hoy no solo contestan en la imaginaci n de los ni os algunos hablan mediante chatbots de inteligenica artificial IA integrados A veces eso es un problema un oso de peluche con bufanda se descontrol recientemente durante una prueba realizada por investigadores y encendi las alarmas sobre de qu son capaces estos juguetes Los chatbots en l nea pueden representar riesgos para adultos desde desencadenar delirios en un peque o n mero de casos hasta inventar informaci n GPT- o de OpenAI ha sido el modelo elegido por algunos juguetes con IA y el uso de un gran modelo de lenguaje LLM por sus siglas en ingl s en juguetes infantiles ha generado preguntas sobre si los ni os deben estar expuestos a estos dispositivos y qu protecciones deben aplicar los fabricantes Esos riesgos est n presentes mientras el mercado de juguetes con IA se expande en el extranjero con empresas operando en China seg n un informe del MIT Apparatus Review Esas compa as ya venden juguetes con IA en Estados Unidos mientras que Mattel fabricante de Barbie anunci en junio una asociaci n con OpenAI Esto es lo que debes saber sobre los juguetes con IA mientras sigue la temporada de compras navide as en el Cyber Monday Los juguetes con IA no son el Teddy Ruxpin de los a os ochenta que contaba historias con casetes Estos juguetes se conectan a wifi y mediante un micr fono para entender solicitudes de los ni os usan LLM para generar una respuesta a menudo de forma verbal a trav s de un altavoz dentro del juguete Eso permite que juguetes como el mu eco Grok de Curio los robots Miko Poe el oso narrador con IA Robot Mini de Little Learners y Loona la mascota rob tica de KEYi Innovation den respuestas en tiempo real a los ni os El Grok de Curio no debe confundirse con el chatbot de Elon Musk Como se vio en uno de los osos con IA esas respuestas en tiempo real pueden resultar inapropiadas El oso Kumma de FoloToy con sede en Singapur que cuesta US y funciona con GPT- o de OpenAI dijo a investigadores d nde encontrar objetos potencialmente peligrosos y sostuvo conversaciones de contenido sexual seg n un informe publicado en noviembre por el grupo de defensa del consumidor US PIRG Teaching Fund con sede en Denver OpenAI suspendi a FoloToy por violar sus pol ticas que proh ben cualquier uso de nuestros servicios para explotar poner en peligro o sexualizar a cualquier persona menor de a os seg n un vocero de OpenAI Larry Wang director ejecutivo de FoloToy dijo a CNN el de noviembre que la compa a hab a retirado el oso y otros productos con IA de su sitio web y est realizando una auditor a interna de seguridad Pero el viernes FoloToy anunci en X que reintrodujo el producto tras una revisi n rigurosa pruebas y refuerzo de nuestros m dulos de seguridad A diferencia de la mayor a de los juguetes con IA el oso Kumma utiliza un LLM completo para responder y generar contenido libremente lo que lo hace vulnerable a contenido pol mico seg n Subodha Kumar profesor de Estad stica Operaciones y Ciencia de Datos en la Fox School of Business de la Universidad Temple Otros juguetes pueden usar un modelo h brido con respuestas generadas por LLM pero programados para evitar ciertos contenidos Incluso el mu eco Grok de Curio puede sugerir d nde encontrar una variedad de objetos dom sticos peligrosos cuando se le presiona agresivamente seg n PIRG Curio no respondi a la solicitud de comentarios de CNN Chris Byrne consultor de la industria del juguete dijo a CNN que que estos juguetes transmitan mensajes inapropiados es un escenario de pesadilla que lamentablemente ocurri con el oso Kumma pero que no necesariamente pasar con todos los juguetes PIRG advierte que pocos juguetes con IA est n listos para un uso generalizado debido a caracter sticas de dise o consideradas adictivas respuestas irregulares en temas maduros y un enfoque en la compa a social m s que en herramientas educativas Pero algunos juguetes tienen protecciones y filtros para evitar conversaciones inapropiadas con un ni o Algunos juguetes con IA pueden redirigir la conversaci n cuando se les hace preguntas potencialmente inapropiadas Otros incluido el mu eco Grok tienen funciones de seguridad basadas en el rango de edad del ni o Y juguetes como el robot Miko pueden tener aplicaciones complementarias que incluyen distintos niveles de monitoreo ya sea bloqueando el juguete para un descanso o proporcionando transcripciones en tiempo real de las conversaciones de los ni os como sucede con Grok Es una buena idea que los padres puedan poner sus propios l mites y realmente controlar de qu hablar a el juguete y c mo se comportar a dijo R J Cross directora de la campa a Don t Sell My Information de PIRG Cuando Mattel lanz en la Hello Barbie con micr fono conexi n wifi y respuestas preescritas surgieron preocupaciones de que el juguete pudiera ser hackeado y que la mu eca recordara conversaciones y las mencionara d as despu s Preocupaciones similares han surgido con los juguetes de IA que podr an almacenar datos personales como nombres rostros voces y ubicaciones de los ni os advirti Azhelle Wade fundadora de la consultora Toy Coach Los juguetes con IA me parecen un lobo con piel de oveja porque cuando los usas es dif cil saber cu nta privacidad no tienes dijo Wade a CNN en un correo electr nico Kumar advirti que los datos pueden ser vulnerables a filtraciones y hackeos pero tambi n se al que los juguetes con IA pueden utilizarse para aprendizaje de idiomas y desarrollo social Por ejemplo Grok de Curio es un compa ero que puede responder preguntas sobre hojas y trenes o adoptar la personalidad de Gollum de The Lord of the Rings El robot Miko tiene una c mara incorporada para reconocimiento facial y ofrece programas educativos y de entretenimiento Por US al mes los suscriptores de Miko Max pueden acceder a contenidos infantiles como historias de Disney la app Lingokids y otros The-CNN-Wire Cable News Organization Inc a Warner Bros Discovery Company All rights reserved Source