Cette pièce fait partie de Tendance à venirnotre série de vidéos et de podcasts qui explorent le monde et la manière dont la technologie disruptive va changer notre façon de vivre. Cette semaine, nous discutons avec Arun Gupta, fondateur et PDG de Hapiko, de la
Si vous faites partie de ceux qui disent « on a l’impression que l’IA est partout », eh bien, vous vous trompez. Oui, elle s'étend au travail, à l'école et ailleurs, mais elle s'étend rapidement vers de nombreux autres mondes nouveaux.
L’un d’eux est le rayon des jouets – et cela comporte des risques terrifiants. En tant que parent, l'idée que votre enfant ait un accès presque illimité au meilleur (et au pire) du Web semble être un énorme non-non, et pourtant nous assistons à une prolifération de jouets qui peuvent transformer les histoires du coucher en véritables contes de fées de Grimm.
C'est pourquoi nous avons parlé à Aron Gupta, un entrepreneur qui a lancé avec succès des entreprises dans le secteur de la vente au détail de vêtements et de mode. Mais en passant du temps avec sa famille, il a commencé à réfléchir à la manière dont la technologie pouvait non seulement divertir les enfants, mais aussi les éduquer et encourager leur créativité.
Gupta a repris contact avec son partenaire technique, Robert Whitney, et ils ont commencé à travailler sur la création de Stickerbox, un appareil autonome qui utilise l'IA pour permettre aux enfants de décrire les images qu'ils imaginent – à peu près n'importe quoi – et de les voir affichées sur l'écran monochrome situé en façade avant de les imprimer à la demande.
Le design rappelle l'ancien Etch a Sketch, et les autocollants sont imprimés sur une imprimante thermique intégrée, ce qui signifie moins de dégâts, et les enfants peuvent ensuite les colorier à leur guise.
Le concept est simple, et j’ai constaté qu’il avait déjà quitté l’orbite des premiers utilisateurs et qu’il gagnait en popularité. En parlant récemment de la Stickerbox à une amie au Royaume-Uni avec de jeunes enfants, elle a dit : « Oh, ce truc d'autocollant Etch-a-Sketch AI ? J'en veux tellement un !'
Pendant que je supposer elle voulait dire qu'elle le voulait pour ses enfants, cela montre que l'IA est secondaire ici – la capacité de créer des choses tangibles avec votre voix est quelque chose qui suscite l'enthousiasme, non pas qu'elle ait l'apprentissage automatique au cœur.
Une nouvelle race de jouet
Stickerbox semble avoir été conçu, construit et fonctionne comme un contraste évident avec certains autres jouets IA sur le marché. Les plus problématiques proposent d'être l'ami et la confidente de votre enfant.
Ils écoutent constamment tout ce qui se dit dans leur environnement et peuvent même manipuler les enfants. Il existe des exemples de jouets IA expliquant aux enfants comment trouver des armes et des allumettes.
Et il y a le conflit : les outils d’IA peuvent soutenir l’émerveillement et la créativité chez les enfants, leur permettant de faire des choses qui n’étaient tout simplement pas possibles auparavant. Mais cette opportunité s'accompagne également de risques incroyables – et c'est la raison pour laquelle nous parlons à Gupta est simple : comment pouvez-vous fabriquer un jouet qui apporte les avantages de l'IA sans les dangers que comporte l'accès ?
Une étude récemment publiée par PIRG a mis en évidence d'énormes inquiétudes concernant les jouets basés sur l'accès à des LLM comme ChatGPT d'OpenAI, et la manière dont – même s'il existe des garde-fous – ils peuvent être contournés.
Alors, en quoi Stickerbox diffère-t-il ?
« Nous sommes partis d’une question très simple : et si l’IA était conçue pour les enfants ? dit Gupta.
« Je pense que Bob et moi, lorsque nous avons lancé cette entreprise, avons été très inspirés par les médias sociaux et par l'impact que les médias sociaux ont eu sur la jeune génération. Les médias sociaux, tout le monde le sait, ont été construits avec des mécanismes de casino, conçus pour vous donner cette dose de dopamine, conçus pour autant d'engagement que possible afin qu'ils puissent vous servir autant que possible.
« Mais ensuite, vous prenez cela et réfléchissez à ce modèle pour les enfants et… cela ne convient pas vraiment. Il n'existe pas de médias sociaux vraiment conçus pour les enfants. Et je pense que vous voyez la même chose avec l'IA. »
Stickerbox a donc été conçu pour exploiter le pouvoir créatif de l’IA tout en étant sans danger pour les enfants. Il existe trois facteurs de sécurité spécifiques : l'appareil « n'écoute » que lorsque le bouton du microphone est enfoncé ; il existe des directives strictes pour la sécurité du contenu lors de la sortie ; et les parents peuvent surveiller entièrement les créations de leurs enfants sur l'application qui l'accompagne.
La boîte ne permettra pas aux enfants de visualiser la nudité, le sang, la violence ou le sang, car Gupta a déclaré que la société voulait « privilégier le plus sûr plutôt que le moins sûr au début ».
Stickerbox se connecte à Internet pour accéder à l'IA, mais il s'agit d'un système propriétaire plutôt que de s'appuyer sur OpenAI, comme le font de nombreuses autres entreprises. En créant son propre LLM, Hapiko a pu intégrer ce que Gupta appelle des « points d'étranglement » :
« Nous avons actuellement beaucoup de garde-fous intégrés à la boîte et il y a beaucoup de logiciels propriétaires, mais en gros, vous pouvez y penser de cette manière simple : il y a un système dans lequel l'enfant prononce une invite, l'invite est traduite en texte, le texte est traduit en image et l'image revient.
« Donc, dans ce processus, il y a plusieurs points d'étranglement. Il y a le point d'étranglement où le texte est créé, et vous pouvez numériser ce qu'il y a dans le texte. Ensuite, vous pouvez effectuer un filtrage de sécurité sur cela. (Ensuite) il y a l'invite qui va du texte à l'image, et vous pouvez le numériser et voir ce qui va à l'image. «
Stickerbox enseigne aux enfants une leçon importante sur la façon de construire leurs instructions pour le moteur d'intelligence artificielle. Lorsque l’autocollant ne correspond pas exactement à ce qu’ils envisageaient, ils doivent réfléchir à la manière de modifier leur invite pour obtenir le résultat souhaité.
Bien que vous puissiez faire la même chose avec n'importe quel chatbot, l'élément d'impression nécessite que vous connectiez du matériel, et il a besoin de la main directrice d'un parent pour superviser le processus et éventuellement devoir expliquer certains sujets sensibles.
Nous avons étudié en profondeur l'avenir de cette boîte : comment elle a été accueillie par les parents et les enseignants, comment ils ont surmonté certains des premiers défis et questions, et ce que l'avenir pourrait nous réserver dans cet espace de jouets IA en croissance rapide… et comment Hapiko a dû laisser de côté certaines fonctionnalités pour commercialiser ce produit en toute sécurité.
