Monde numérique

Ancien secrétaire d’État au Numérique et cofondateur de Mistral AI, Cédric O se lance dans une nouvelle aventure entrepreneuriale avec Mallow, une enceinte IA qui propose des jeux audio interactifs pour les enfants de 4 à 10 ans.

🎤 INTERVIEW : Cédric O – Cofondateur de Mallow

L’essentiel

• Les modèles d’intelligence artificielle que nous utilisons aujourd’hui n’ont pas été conçus pour les enfants.
• Nous avons choisi de ne pas être des amis imaginaires.
• Un enfant, un tuteur personnel ou un agent conversationnel, ça les saoule.
• La question, c’est comment on façonne le changement, pas comment on s’en protège.

=================================

L’interview

Qu’est-ce que Mallow et à quels besoins répond votre produit ?

Mallow propose des jeux audio interactifs, sans écran, dans lesquels les enfants de 4 à 10 ans deviennent les héros de leurs aventures. Ils peuvent répondre à des quiz, résoudre des enquêtes ou participer à des histoires interactives en dialoguant avec des personnages. Notre objectif est de les aider à développer leur confiance en eux, leur raisonnement, leur mémoire et leur concentration, tout en leur proposant une expérience ludique. Nous voulons aussi contribuer à réduire le temps passé devant les écrans.

Pourquoi avoir choisi de développer une intelligence artificielle spécifiquement destinée aux enfants ?

Nous sommes partis d’un constat : les interactions orales jouent un rôle important dans le développement de l’enfant, notamment avant 7 ou 8 ans. Or, les modèles d’IA actuels sont essentiellement conçus par des adultes, pour des adultes, à partir de données d’adultes. Ils reconnaissent donc mal la voix des enfants et peuvent adopter des comportements inadaptés. Nous avons développé notre expérience avec plus de 300 enfants, à travers environ 6 000 sessions et près de 1 000 heures de jeu. Ces tests nous ont permis d’adapter nos systèmes à leurs besoins.

Comment avez-vous sécurisé votre intelligence artificielle pour éviter les dérives ?

Nous avons d’abord fait le choix de ne pas créer d’amis imaginaires. L’enfant joue à un jeu avec un objectif précis : répondre à des questions ou résoudre une enquête. Nous avons également testé et corrigé nos systèmes pour encadrer leurs réponses et éviter qu’ils cherchent à créer un lien émotionnel avec l’enfant. Si celui-ci dit à l’IA qu’elle est son meilleur ami, elle lui rappelle qu’elle est un personnage imaginaire. Nous estimons que notre système est un à deux ordres de grandeur plus sûr que les solutions disponibles sur le marché. Mais je pense aussi qu’il faut instaurer des certifications spécifiques pour les IA destinées aux enfants.

L’Europe ne va-t-elle pas trop loin dans la régulation de l’intelligence artificielle ?

Il faut de la régulation, notamment dans les domaines où les risques sont particuliers, comme l’IA destinée aux enfants. Mais le débat ne doit pas se résumer à opposer davantage de règles à moins de règles. La vraie question est de savoir quelle place l’Europe veut occuper dans le monde technologique de demain. Les États-Unis et la Chine investissent et développent des entreprises capables de façonner l’avenir. Si nous voulons défendre les valeurs européennes, nous devons aussi créer des entreprises ambitieuses, lever des fonds, développer des produits et prendre des risques. Le changement technologique est inévitable : l’enjeu est de le façonner plutôt que de chercher à s’en protéger.