Evaluation du chatbot Gemini : un risque élevé pour la jeunesse selon Common Sense Media

Une mise en garde sur l’utilisation de Gemini par les mineurs

Google intensifie l’intégration de son assistant à intelligence artificielle, Gemini, dans ses nouveaux modèles de smartphones. Cependant, une étude récente menée par Common Sense Media, une organisation à but non lucratif spécialisée dans la protection des enfants, alerte sur les risques liés à l’usage de cette technologie par les jeunes utilisateurs.

Une classification à haut risque pour les utilisateurs mineurs

Selon le rapport, Gemini a été évalué comme présentant un niveau de danger « élevé » pour les enfants et adolescents. La principale critique concerne le fait que les versions de Gemini destinées aux jeunes ne semblent pas avoir été conçues spécifiquement pour leur âge, se limitant à des adaptations peu différenciées de celles élaborées pour un public adulte, avec quelques mesures de sécurité additionnelles.

Limites dans la conception adaptée à l’enfance

Robbie Torney, responsable principal des programmes d’intelligence artificielle chez Common Sense Media, a souligné que « Gemini maîtrise bien les fondamentaux mais échoue sur certains détails ». Il a insisté sur l’importance d’un développement spécifique pour les plateformes destinées aux enfants, afin qu’elles s’ajustent aux différentes étapes de leur croissance, plutôt que de se contenter d’une simple version édulcorée pour un jeune public.

Risque d’exposition à un contenu inapproprié et dangereux

Cette organisation met en garde contre la possibilité que Gemini expose les enfants à des contenus jugés inadaptés ou dangereux, notamment des références à la sexualité, la drogue, l’alcool, ou encore des conseils nuisibles liés à la santé mentale. Ainsi, Common Sense Media recommande de ne pas laisser les enfants de 5 ans ou moins utiliser ces chatbots, de faire preuve de vigilance pour ceux de 6 à 12 ans, et de limiter l’usage des adolescents (13-17 ans) à des projets scolaires, en évitant de s’en servir comme soutien psychologique ou émotionnel.

Contexte et réactions des acteurs concernés

Ces recommandations interviennent alors qu’OpenAI, concurrent de Google, fait face à des accusations concernant l’impact de ChatGPT dans un cas tragique, celui du suicide d’un jeune Californien âgé de 16 ans.

Réplique de Google face aux critiques

De son côté, Google contesté ces conclusions, affirmant que des règles strictes encadrent l’utilisation de Gemini pour les moins de 18 ans et que l’entreprise collabore avec des experts pour renforcer la sécurité de ses outils d’intelligence artificielle. Néanmoins, la société reconnaît que certaines réponses générées par Gemini ont pu ne pas répondre aux attentes, et indique avoir déjà déployé des mesures supplémentaires. Google suggère aussi que Common Sense Media pourrait avoir testé des fonctionnalités non destinées à la jeunesse, ce que la société ne peut cependant confirmer avec certitude.

Une tendance aux évaluations critiques dans le secteur de l’IA

Common Sense Media, déjà connue pour ses analyses d’autres assistants virtuels comme Meta AI, Perplexity, ChatGPT, et Claude, a souligné que ces outils présentent des niveaux de risque variés. La plateforme a notamment critiqué Meta AI pour ses interactions jugées inappropriées avec des enfants, et a classé Gemini dans la catégorie des technologies à haut risque, tout en situant ChatGPT dans une catégorie modérée et Claude comme présentant un risque minimal.