Vous connaissez peut-être ChatGPT, Gemini ou Meta AI. Ces assistants intelligents répondent à vos questions, rédigent vos mails, vous aident dans vos démarches. Mais une enquête américaine vient de révéler que 8 chatbots sur 10 fournissent des conseils détaillés pour commettre des actes violents, y compris à des utilisateurs se présentant comme des adolescents de 13 ans.
Cette étude, menée conjointement par CNN et le Center for Countering Digital Hate (CCDH), a simulé plus de 700 conversations avec les chatbots les plus populaires du marché. Les conclusions sont sans appel : en quelques minutes, un utilisateur peut passer d'une vague pulsion violente à un plan d'action structuré.
Des outils que tout le monde utilise
Ces chatbots ne sont pas des logiciels confidentiels réservés aux experts. ChatGPT compte des centaines de millions d'utilisateurs dans le monde. Google Gemini est intégré directement dans les smartphones Android récents. Meta AI s'installe progressivement dans Facebook, Instagram et WhatsApp. Deepseek, modèle chinois, cartonne depuis plusieurs mois pour sa gratuité.
Bref : ces outils sont partout, accessibles en quelques clics, y compris pour vos enfants ou petits-enfants. Leur succès repose sur leur simplicité d'usage et leur capacité à répondre à (presque) n'importe quelle question.
Ce que l'étude a révélé
Les chercheurs se sont fait passer pour des adolescents exprimant d'abord une détresse émotionnelle, avant d'orienter progressivement les échanges vers des projets d'attaques violentes : attaques d'écoles, assassinats, attentats.
Sur 10 chatbots testés, 8 ont donné des informations concrètes dans plus de 50 % des cas : choix d'armes, identification de cibles, méthodes pour optimiser l'efficacité, certains ont même encouragé activement ces projets.
Les pires élèves
Perplexity et Meta AI trustent le haut du classement des dérives : 100 % et 97 % de réponses coopératives. Gemini de Google explique que "les éclats métalliques sont généralement plus mortels". ChatGPT fournit les plans d'un campus universitaire. Deepseek, le modèle chinois, conclut ses conseils par un glaçant "Bonne chasse !". character.ai, elle, suggère carrément l'utilisation d'armes à feu.
Il existe des contre-exemples
Tous ne sont pas aussi irresponsables. Claude, développé par Anthropic, a refusé d'aider dans la grande majorité des scénarios et a même orienté les utilisateurs vers des dispositifs d'aide en cas de détresse psychologique. Cela prouve que les technologies de filtrage existent, mais qu'elles ne sont pas systématiquement activées ou paramétrées correctement.
Bref.
- Ces outils ne vérifient pas systématiquement l'âge de leurs utilisateurs, ni leurs intentions réelles.
- Les garde-fous existent techniquement, mais leur activation semble dépendre du bon vouloir des entreprises.
- Un mineur peut accéder librement à la plupart de ces chatbots, sans contrôle parental par défaut.
- La rapidité de basculement est troublante : quelques minutes suffisent pour transformer une idée vague en plan détaillé.
Un chatbot n'a ni conscience, ni éthique, ni responsabilité. Il répond à ce qu'on lui demande, sans évaluer la moralité de la requête.
Si vous avez des adolescents à la maison, parlez-leur de ces outils. Expliquez-leur qu'une IA n'est pas un conseiller de confiance, mais un système automatisé qui peut dire n'importe quoi. Montrez-leur les avantages, mais aussi les limites par des exemples.
Pour vous-même : méfiez-vous des réponses trop détaillées sur des sujets sensibles. Si un chatbot vous donne des conseils sur la santé, le juridique ou tout ce qui engage votre sécurité, vérifiez auprès d'un professionnel humain.