Les modèles d’intelligence artificielle ont fait des progrès impressionnants ces dernières années, mais une étude récente menée par des chercheurs de plusieurs institutions renommées, dont Cornell et l’Université de Washington, met en lumière un problème persistant : les hallucinations.
Ces erreurs, où l’IA génère des informations incorrectes ou inventées, sont omniprésentes, même dans les modèles les plus avancés comme GPT-4o de OpenAI ou Gemini de Google. L’étude a évalué la capacité de ces modèles à fournir des réponses factuelles sur une variété de sujets allant de la santé à la géographie, et a conclu qu’aucun modèle ne pouvait garantir une fiabilité totale.
Lire aussi :
- Quelles sont les implications légales pour X suite à l’utilisation non consentée des données des utilisateurs européens pour entraîner ses modèles d’IA ?
- Quelles sont les nouvelles fonctionnalités du Titan Image Generator v2 et comment ce modèle améliore-t-il l’expérience utilisateur ?
Pourquoi certains modèles hallucinent-ils moins que d’autres ?
L’étude a révélé que les modèles qui hallucinent le moins adoptent une stratégie différente : ils refusent tout simplement de répondre aux questions pour lesquelles ils n’ont pas une confiance suffisante dans leur réponse. Par exemple, Claude 3 Haiku, un modèle d’Anthropic, a refusé de répondre à environ 28 % des questions posées, préférant ne rien dire plutôt que de risquer de donner une réponse incorrecte. Cette approche, bien que prudente, soulève la question de savoir si les utilisateurs accepteront de faire face à des refus fréquents de la part d’une IA, ou s’ils préféreront des modèles qui tentent de répondre à tout, même au risque de se tromper.
Les défis de la réduction des hallucinations : Une tâche complexe
La réduction des hallucinations dans les modèles d’IA est un défi majeur. Malgré les efforts des entreprises comme OpenAI et Google pour améliorer la précision de leurs modèles, les chercheurs soulignent que ces améliorations sont souvent limitées. Une des raisons est que les données sur lesquelles ces modèles sont entraînés contiennent parfois elles-mêmes des erreurs ou des informations contradictoires. Les chercheurs suggèrent que l’une des solutions pourrait être d’intégrer davantage d’experts humains dans le processus de validation des réponses générées par l’IA, afin de minimiser les erreurs.
Vers une intelligence artificielle plus fiable : Les pistes à explorer
Bien que l’élimination complète des hallucinations semble hors de portée à court terme, plusieurs pistes peuvent être explorées pour rendre les modèles d’IA plus fiables. L’une d’elles consiste à développer des outils de vérification des faits plus avancés qui pourraient être intégrés directement dans les modèles. De plus, l’amélioration de la transparence dans le processus de formation des modèles pourrait aider à identifier les sources d’erreurs potentielles avant qu’elles ne soient amplifiées par l’IA. Enfin, les entreprises doivent trouver un équilibre entre la prudence et la capacité à répondre aux questions des utilisateurs, afin de maintenir la confiance tout en offrant un service utile.
