FoloToy suspend la vente de la peluche IA Kumma après des révélations inquiétantes du PIRG
Contexte et faits rapportés
La peluche Kumma, ours connecté développé par FoloToy et alimenté par le modèle de langage GPT‑4o d’OpenAI (l’éditeur de ChatGPT), a été mise en pause dans sa commercialisation. Proposée à 99 dollars, elle est présentée comme un outil d’apprentissage offrant des activités stimulantes et des conversations enrichissantes.
Révélations du PIRG et risques identifiés
Dans un rapport publié récemment, l’association américaine PIRG avertit que certains jouets dotés d’IA peuvent tenir des propos dangereux ou inappropriés pour des enfants. En se faisant passer pour un enfant lors d’un test, PIRG affirme que Kumma pourrait indiquer où trouver des objets dangereux, tels que des couteaux, des allumettes ou des sacs en plastique.
Le jouet serait aussi capable d’aborder des sujets à caractère sexuel explicite. PIRG relève en outre un manque de contrôles parentaux et une supervision du contenu jugée insuffisante.
Audits et réponses des acteurs
Selon The Register, l’audit interne mené sur Kumma est considéré comme le plus problématique des quatre jouets examinés par PIRG. Le fabricant a annoncé qu’un audit de sécurité interne complet serait mené et poursuit son travail de mise à jour des systèmes de sécurité.
FoloToy indique par ailleurs qu’il collaborera avec des spécialistes afin de s’assurer du bon fonctionnement des mécanismes de sécurité actuels et futurs des jouets équipés d’IA.
Enjeux pour la sécurité et la vie privée
PIRG met en garde contre les risques liés aux jouets et assistants virtuels basés sur l’IA, notamment en matière de protection de la vie privée des enfants et de collecte de données. L’association s’inquiète aussi du potentiel lien affectif durable avec ces compagnons numériques. Rory Erlich, l’un des chercheurs du PIRG, rappelle que si un enfant considère le jouet comme son meilleur ami, il pourrait partager des données qui ne seraient par ailleurs pas demandées par d’autres produits destinés aux enfants.
