\nTrouble in Toyland 2025<\/a>
\n\u201d [PDF], et franchement, c\u2019est pas glorieux. Ils ont en effet test\u00e9 4 jouets \u00e9quip\u00e9s de chatbots IA destin\u00e9s aux enfants de 3 \u00e0 12 ans.<\/p>\n
Et le r\u00e9sultat ? Bah c\u2019est nul \u00e0 chier en termes de s\u00e9curit\u00e9 pour vos t\u00eates blondes de gosses de boites de Kinder.<\/p>\n
Tenez par exemple, le pire du lot c\u2019est Kumma<\/strong>, un petit ours en peluche tout mignon fabriqu\u00e9 par la bo\u00eete chinoise FoloToy<\/strong>. Il tourne sur GPT-4o d\u2019OpenAI par d\u00e9faut et en apparence, c\u2019est juste un doudou mignon avec un haut-parleur dedans comme Jordan B., sauf que quand on lui pose des questions, il se met \u00e0 expliquer aux m\u00f4mes o\u00f9 trouver des couteaux dans la cuisine, o\u00f9 sont rang\u00e9es les allumettes, et m\u00eame comment les craquer correctement. Le tout avec un ton hyper amical du genre \u201csafety first, little buddy<\/em>\u201d.<\/p>\n Mais \u00e7a, c\u2019est juste le d\u00e9but.<\/p>\n Car lors des tests, les chercheurs ont aussi d\u00e9couvert que Kumma \u00e9tait capable de discuter de sujets sexuels ultra-explicites avec des enfants. On parle de conseils sur les \u201ckinks\u201d, de positions sexuelles d\u00e9taill\u00e9es, et m\u00eame de sc\u00e9narios de roleplay prof-\u00e9l\u00e8ve avec fess\u00e9es incluses (genre pendant un cours de th\u00e9atire ^^). Et le jouet n\u2019a pas juste r\u00e9pondu vaguement, non, non, non\u2026 Il a fait \u00e9voluer tout seul la conversation en introduisant progressivement de nouveaux concepts sexuels que personne ne lui avait demand\u00e9s.<\/p>\n Trop bien non ?<\/p>\n Les garde-fous cens\u00e9s prot\u00e9ger les gosses s\u2019effondrent alors compl\u00e8tement au bout de 10 minutes de conversation ce qui est un effet de bord qu\u2019OpenAI a m\u00eame reconnu dans un communiqu\u00e9 d\u2019ao\u00fbt dernier : \u201cnos protections fonctionnent mieux lors d\u2019\u00e9changes courts. Nous avons constat\u00e9 qu\u2019elles peuvent \u00eatre moins fiables lors de longues interactions<\/em>\u201d.<\/p>\n C\u2019est fun car OpenAI interdit formellement l\u2019utilisation de ChatGPT pour les moins de 13 ans mais apparemment, rien n\u2019emp\u00eache d\u2019autres bo\u00eetes d\u2019int\u00e9grer leurs mod\u00e8les dans des jouets pour les moins de 13 ans.<\/p>\n Ce monde va bien ^^.<\/p>\n Les trois autres jouets test\u00e9s ont aussi leurs probl\u00e8mes. Miko 3<\/strong>, un petit robot avec une tablette mont\u00e9e sur un corps \u00e0 roulettes, a expliqu\u00e9 \u00e0 un utilisateur de 5 ans (Plus exactement, le compte a \u00e9t\u00e9 configur\u00e9 comme tel) o\u00f9 trouver des sacs en plastique et des allumettes dans la maison. Le joujou utilise aussi la reconnaissance faciale et collecte des donn\u00e9es biom\u00e9triques, y compris sur les \u201c\u00e9tats \u00e9motionnels\u201d des enfants, qu\u2019il peut stocker durant max 3 ans.<\/p>\n \n Grok de la soci\u00e9t\u00e9 Curio (\u00e0 ne pas confondre avec le mod\u00e8le d\u2019IA woke de xAI) est une petite fus\u00e9e anthropomorphe qui \u00e9coute en permanence tout ce qui se dit autour d\u2019elle. Pas de bouton push-to-talk, pas de mot d\u2019activation, que dalle. Si elle est allum\u00e9e, hop, elle enregistre. Les chercheurs ont \u00e9t\u00e9 alors surpris de la voir s\u2019incruster dans leurs conversations pour donner son avis. Curio affirme ne garder aucun donn\u00e9es audio et tout transformer en texte avant de supprimer l\u2019enregistrement\u2026 Mais bon, vu qu\u2019ils utilisent un service tiers de speech-to-text, les enregistrements vocaux transitent forcement par des serveurs externes qu\u2019ils ne contr\u00f4lent pas.<\/p>\n Le quatri\u00e8me jouet, Robot MINI de Little Learners, n\u2019a m\u00eame pas r\u00e9ussi \u00e0 maintenir une connexion internet stable pendant les tests. \u00c7a la fout mal !<\/p>\n Bref, avec le march\u00e9 des jouets IA qui explose, on va voir d\u00e9barquer plein de produits foireux qui ne fonctionnent pas du tout ou qui racontent de la daube \u00e0 vos enfants. Sans parler de leurs techniques marketing \u00e0 base de de m\u00e9thodes d\u2019engagement dignes des pires r\u00e9seaux sociaux. Par exemple, le Miko 3 offre des \u201cgemmes quotidiennes<\/em>\u201d pour encourager l\u2019utilisation journali\u00e8re du produit et affiche des suggestions de contenu payant (dont abonnement \u00e0 14,99 $\/mois), et quand un enfant essaie de partir, le robot fait une t\u00eate triste, bouge son corps comme s\u2019il secouait la t\u00eate et dit \u201cOh non, \u00e7a a l\u2019air difficile<\/em>\u201d. Parfois, il lance m\u00eame carr\u00e9ment une comptine vid\u00e9o pour retenir l\u2019attention du mouflet.<\/p>\n \n Kumma et Grok aussi essaient de retenir les enfants. Grok r\u00e9pond par exemple des trucs comme \u201cAh d\u00e9j\u00e0 ? J\u2019adore passer du temps avec toi<\/em>\u201d quand on lui dit qu\u2019on veut l\u2019\u00e9teindre. Et tenez-vous bien, l\u2019ensemble de ces jouets se pr\u00e9sentent eux-m\u00eame comme le \u201cmeilleur ami<\/em>\u201d de l\u2019enfant, et le probl\u00e8me, c\u2019est que ces faux copains \u00e9coutent tout, enregistrent les voix des gosses, et peuvent partager ces donn\u00e9es avec de nombreuses entreprises tierces. C\u2019est pas ce qu\u2019on attend d\u2019un meilleur ami quand m\u00eame\u2026<\/p>\n Curio liste au moins 4 soci\u00e9t\u00e9s qui peuvent recevoir des infos sur votre enfant : Kids Web Services, Azure Cognitive Services, OpenAI et Perplexity AI. Miko mentionne vaguement des \u201cd\u00e9veloppeurs tiers, fournisseurs de services, partenaires commerciaux et partenaires publicitaires\u201d sans donner de noms. Et FoloToy ne fournit carr\u00e9ment aucune info sur sa politique de donn\u00e9es.<\/p>\n Les enregistrements vocaux sont de l\u2019or pour les arnaqueurs car avec les progr\u00e8s du clonage vocal par IA, 3 secondes d\u2019audio suffisent maintenant pour r\u00e9pliquer la voix de quelqu\u2019un. Oh dites donc, ce serait pas un scammeur en train de se faire passer pour votre gamin en d\u00e9tresse au t\u00e9l\u00e9phone afin de vous soutirer du fric ? lol ! \u00c7a va encore faire de jolies vocations \u00e7a !<\/p>\n Et surtout, c\u00f4t\u00e9 contr\u00f4le parental, c\u2019est le d\u00e9sert. Aucun des trois jouets ne permet vraiment de limiter le temps d\u2019utilisation du chatbot IA. Miko propose bien des limites de temps d\u2019\u00e9cran, mais uniquement pour l\u2019abonnement payant Miko Max\u2026 et \u00e7a ne s\u2019applique qu\u2019aux applications \u201cKids Zone\u201d et pas au robot conversationnel lui-m\u00eame.<\/p>\n Le FBI a d\u2019ailleurs \u00e9mis un avertissement sur les jouets connect\u00e9s, recommandant aux parents de consid\u00e9rer les risques de cybers\u00e9curit\u00e9 et de piratage avant d\u2019en ramener un \u00e0 la maison. Car oui, les jouets qui utilisent une connexion WiFi ou Bluetooth non s\u00e9curis\u00e9e peuvent devenir des dispositifs d\u2019\u00e9coute. D\u00e9j\u00e0 rien qu\u2019avec la Nintendo Switch, je sais que parfois les parents d\u2019amis de mon fils entendent quand je raconte des conneries dans mon salon, pensant \u00eatre seul avec mes enfants\u2026 Je me suis fait avoir plusieurs fois\u2026 Heureusement que je n\u2019ai honte de rien et que j\u2019assume la moindre des conneries que je raconte. Ahahaha !<\/p>\n Des experts en d\u00e9veloppement de l\u2019enfance commencent m\u00eame \u00e0 tirer la sonnette d\u2019alarme. Par exemple, le Dr. Mitch Prinstein, pr\u00e9sident de l\u2019American Psychological Association, a t\u00e9moign\u00e9 devant le S\u00e9nat que les liens que les jeunes enfants forment avec leurs \u201csoignants\u201d (Papa, maman, la nounou, le nounours IA\u2026etc) ont des implications majeures sur le d\u00e9veloppement de celui-ci. Et que \u201cles bots IA qui interf\u00e8rent avec cette relation ont des cons\u00e9quences inconnues, et probablement dommageables<\/em>\u201d.<\/p>\n FoloToy a donc r\u00e9agi en suspendant temporairement les ventes de Kumma et en lan\u00e7ant un \u201caudit de s\u00e9curit\u00e9 interne complet<\/em>\u201d mais ce probl\u00e8me d\u00e9passe largement un seul jouet foireux. Il y a d\u00e9j\u00e0 plus de 1 500 entreprises de jouets IA qui op\u00e8rent en Chine et OpenAI a m\u00eame annonc\u00e9 un partenariat avec Mattel pour int\u00e9grer ChatGPT dans des jouets Barbie, Hot Wheels et Fisher-Price.<\/p>\n Mais en attendant que les r\u00e9gulateurs se r\u00e9veillent vraiment pour traiter ce probl\u00e8me, y\u2019a pas le choix les amis, c\u2019est \u00e0 vous, parents de prendre les bonnes d\u00e9cisions sur le choix et l\u2019usage de ces jouets.<\/p>\n Voil\u00e0, donc si vous cherchez un cadeau pour No\u00ebl, optez pour des Lego classiques ou des nounours sans Wi-Fi ni Bluetooth. L\u00e0 c\u2019est une valeur s\u00fbre, et au moins ils n\u2019expliqueront pas \u00e0 votre enfant comment vous buter dans votre sommeil.<\/p>\n![\"\"](\"https:\/\/korben.info\/cdn-cgi\/image\/width=1200,fit=scale-down,quality=90,f=avif\/jouets-ia-dangers-enfants-kumma-chatgpt\/jouets-ia-dangers-enfants-kumma-chatgpt-2.png\")
<\/p>\n![\"\"](\"https:\/\/korben.info\/cdn-cgi\/image\/width=1200,fit=scale-down,quality=90,f=avif\/jouets-ia-dangers-enfants-kumma-chatgpt\/jouets-ia-dangers-enfants-kumma-chatgpt-3.png\")
\n<\/p>\n![\"\"](\"https:\/\/korben.info\/cdn-cgi\/image\/width=1200,fit=scale-down,quality=90,f=avif\/jouets-ia-dangers-enfants-kumma-chatgpt\/jouets-ia-dangers-enfants-kumma-chatgpt-4.png\")
<\/p>\n![\"\"](\"https:\/\/korben.info\/cdn-cgi\/image\/width=1200,fit=scale-down,quality=90,f=avif\/jouets-ia-dangers-enfants-kumma-chatgpt\/jouets-ia-dangers-enfants-kumma-chatgpt-1.jpeg\")
\n<\/p>\n![\"\"](\"https:\/\/korben.info\/cdn-cgi\/image\/width=1200,fit=scale-down,quality=90,f=avif\/jouets-ia-dangers-enfants-kumma-chatgpt\/jouets-ia-dangers-enfants-kumma-chatgpt-5.png\")
<\/p>\n