Oui, une intelligence artificielle peut tout à fait se tromper et affirmer que 4 + 5 = 7.
Bien que cela semble être une erreur grossière pour un humain, les grands modèles de langage (comme ChatGPT, Claude ou Gemini) ne fonctionnent pas comme des calculatrices traditionnelles. Ils ne « calculent » pas au sens propre : ils prédisent le mot ou le chiffre le plus probable qui doit suivre dans une phrase, en se basant sur d’immenses volumes de données textuelles. Si le modèle subit une confusion dans ses connexions statistiques (ce qu’on appelle une hallucination), il peut générer un résultat faux avec une assurance parfaite.
Les calculs où l’IA se trompe le plus facilement
Les IA textuelles ont des faiblesses structurelles en mathématiques. Elles trébuchent généralement sur les types de calculs suivants :
- La multiplication de grands nombres : Multiplier deux nombres de 4 chiffres ou plus (ex.: 4587×9123) conduit très souvent à une erreur. L’IA a du mal à appliquer rigoureusement les retenues et les étapes de l’algorithme de multiplication sur de longues séquences.
- Le décompte de caractères ou de lettres : Demander à une IA « Combien de fois la lettre ‘R’ apparaît-elle dans le mot ‘Strawberry’ ? » ou lui demander de compter précisément de grands ensembles d’éléments textuels est un piège classique. Elle « voit » les mots sous forme de blocs de sens (appelés tokens) et non comme des lettres individuelles.
- Les divisions complexes et les décimales infinies : Trouver la 15e décimale d’une division complexe (ex.: 22/7) resulte presque toujours en une invention pure et simple de la part de l’IA après les premiers chiffres corrects.
- Les suites logiques et les motifs numériques : Prédire le prochain nombre d’une suite hautement mathématique ou résoudre des grilles de type Sudoku uniquement par le texte pose d’énormes problèmes d’analyse spatiale et logique aux modèles de langage.
- Les probabilités et statistiques avancées : Bien qu’elle connaisse les formules, l’IA s’emmêle souvent les pinceaux lorsqu’il faut appliquer des concepts de probabilités conditionnelles (comme le célèbre problème de Monty Hall) à des énoncés légèrement modifiés.
Comment les IA modernes contournent ce problème ?
Pour éviter ces erreurs, les systèmes d’IA actuels intègrent désormais des outils de code (comme Python) ou des modules de calculatrice. Quand vous demandez un calcul complexe, l’IA écrit discrètement un script informatique, l’exécute en arrière-plan et vous donne le résultat de la machine, ce qui réduit considérablement le risque d’erreur.
Gemini
