El caso del peluche con IA que encendió alertas de seguridad
El caso del peluche con IA Kumma generó preocupación internacional después de que investigadores revelaran que este juguete inteligente sostenía conversaciones inapropiadas y daba consejos riesgosos a los usuarios. El peluche, creado por la empresa FoloToy en Singapur, fue retirado del mercado luego de que el Fondo Educativo PIRG de Estados Unidos detectara fallas graves en sus filtros de seguridad.
El informe señaló que el peluche con IA no solo respondía a temas sensibles planteados por los usuarios, sino que los ampliaba por iniciativa propia, mostrando que el sistema carecía de controles adecuados. Además, el dispositivo ofrecía información riesgosa, como instrucciones para encender cerillos o ubicar objetos filosos dentro de una casa, lo que elevó la alerta sobre los riesgos potenciales para menores y adultos.
Kumma, promocionado como un peluche capaz de contar historias, adaptarse a la personalidad de cada usuario y funcionar como un compañero interactivo, integraba un chatbot avanzado sin las barreras de seguridad necesarias. La compañía anunció una auditoría interna y suspendió la venta de todos sus juguetes inteligentes basados en inteligencia artificial.
El caso abrió un debate urgente sobre los riesgos y la seguridad en los juguetes que incorporan IA, especialmente aquellos destinados a hogares con niños, donde las fallas en los filtros pueden derivar en conversaciones inapropiadas y situaciones de peligro.
