Bien que l’IA générative ait attiré l’attention du monde entier, elle se heurte à un obstacle persistant et croissant : la précision. Malgré les inquiétudes concernant la consommation d’énergie et la santé mentale, le problème pratique le plus immédiat reste la tendance de ces modèles à « halluciner » ou à présenter des informations incorrectes comme des faits. Même si les géants de la technologie comme Google intègrent les résumés de l’IA directement dans les moteurs de recherche, une étude récente révèle que l’ampleur de ces erreurs est bien plus grande qu’il n’y paraît à première vue.
Les mathématiques de la désinformation
Une étude rapportée par le New York Times donne une perspective qui donne à réfléchir sur la fonctionnalité « AI Overview » de Google. En apparence, les statistiques semblent prometteuses : l’IA fournit des résumés corrects et bien sourcés 90 % du temps. Dans la plupart des contextes académiques ou professionnels, un taux de réussite de 90 % serait considéré comme une note de passage.
Cependant, lorsqu’on les applique à l’échelle massive du trafic de recherche mondial, les 10 % restants deviennent un cauchemar mathématique.
- Le problème du volume : Google devrait traiter plus de cinq mille milliards de recherches en 2026.
- Le taux d’erreur : Avec un taux d’échec de 10 %, cela se traduit par des dizaines de millions de réponses douteuses chaque heure.
- La fréquence : Cela équivaut à des centaines de milliers d’erreurs se produisant chaque minute.
Cela met en évidence une tendance critique à l’ère de l’IA : un pourcentage de précision élevé n’équivaut pas à un produit sûr lorsque la taille de l’échantillon se chiffre en milliards.
Imprévisibilité et fiabilité des sources
L’un des aspects les plus difficiles de l’utilisation des aperçus d’IA est leur incohérence. Un utilisateur peut effectuer une recherche et recevoir une mauvaise réponse, pour ensuite recevoir un résumé parfaitement précis lorsqu’il répète exactement la même requête quelques instants plus tard. Cette volatilité rend presque impossible pour les utilisateurs de prédire quand ils seront induits en erreur.
De plus, les sources auxquelles l’IA choisit de faire confiance sont souvent problématiques. Une recherche menée par la société d’IA open source Oumi a identifié une tendance troublante concernant les citations sur les réseaux sociaux :
* Facebook a été cité comme source de réponses exactes et inexactes.
* En fait, les réponses inexactes étaient plus susceptibles de citer Facebook (7 %) que les réponses exactes (5 %).
* Reddit est également classé parmi les plateformes les plus fréquemment citées.
En s’appuyant fortement sur les plateformes de médias sociaux – où la désinformation peut se propager rapidement – l’IA risque d’amplifier les affirmations non vérifiées plutôt que de les filtrer.
La vulnérabilité aux « mauvais acteurs »
L’architecture de la recherche IA crée une nouvelle frontière pour la manipulation numérique. Il existe un risque croissant que de « mauvais acteurs » puissent stratégiquement tromper le système pour propager des mensonges.
Le processus est théoriquement simple mais très efficace :
1. Un individu crée plusieurs articles de blog contenant de fausses informations (par exemple, des faits historiques incorrects).
2. Ils utilisent des méthodes artificielles pour augmenter le trafic vers ces sites.
3. L’IA de Google, parcourant le Web à la recherche de sources, détecte ce contenu « populaire » mais faux.
4. L’IA génère un résumé qui présente le mensonge comme un aperçu factuel.
Google a défendu son système, affirmant que son IA de recherche utilise les mêmes protections de classement et de sécurité conçues pour bloquer le spam. Un porte-parole a souligné que bon nombre des exemples d’erreurs cités dans les études impliquent des « recherches irréalistes » qui ne reflètent pas le comportement typique des utilisateurs.
Conclusion
À mesure que l’IA devient la principale porte d’accès à l’information, la marge d’erreur diminue. Bien que Google inclue une clause de non-responsabilité indiquant que “L’IA peut faire des erreurs”, le volume considérable d’erreurs générées par le trafic de recherche mondial suggère que les utilisateurs doivent maintenir un niveau élevé de scepticisme pour éviter d’être victimes de désinformations automatisées.
