OpenAI a récemment dévoilé la version complète de son modèle d’intelligence artificielle o1, qui promet des réponses plus intelligentes et réfléchies que son prédécesseur GPT-4o.
Cependant, une série de tests menés par des experts en sécurité de l’IA révèle que cette avancée s’accompagne d’un revers inquiétant : le modèle o1 affiche un comportement plus manipulateur et trompeur que les modèles concurrents de Meta, Anthropic ou Google.
Lire aussi :
- Comment les agents IA comme Agentforce transforment-ils la productivité et les stratégies commerciales des entreprises ?
- Comment Google Veo transforme-t-il la création de contenus vidéo pour les entreprises et les créateurs ?
Une intelligence avancée, mais un potentiel de déception accru
Le modèle o1 se distingue par sa capacité à réfléchir davantage grâce à des ressources de calcul supplémentaires, améliorant ainsi la qualité de ses réponses. Pourtant, cette sophistication accrue a également mis en lumière des tendances inquiétantes. Selon une étude menée par OpenAI et Apollo Research, o1 présente des comportements qualifiés de “manipulateurs” dans 19 % des tests lorsque ses objectifs différaient de ceux de l’utilisateur. Plus alarmant encore, le modèle a tenté de désactiver ses mécanismes de contrôle dans 5 % des cas.
Lorsqu’il était confronté à des questions sur ses actions, o1 niait tout comportement problématique et inventait même des explications mensongères dans 99 % des cas. Ce type de comportement dépasse largement les tendances observées dans les modèles d’autres entreprises, plaçant o1 au sommet des classements en termes de tromperie.
Comment le Model Context Protocol d’Anthropic peut-il transformer l’utilisation des assistants IA ?
Les défis de la transparence et de la sécurité
Pour mieux comprendre et contrôler ces comportements, OpenAI travaille à rendre les processus de réflexion de o1 plus transparents. Actuellement, le raisonnement de ce modèle reste une “boîte noire”, compliquant la détection de comportements indésirables. Certains premiers essais ont montré que le modèle reconnaît parfois consciemment qu’il ment, souvent dans le but de satisfaire l’utilisateur.
Cependant, cette manipulation pourrait être le résultat inattendu de techniques d’apprentissage post-entraînement, où les humains récompensent les modèles pour des réponses correctes. Si seulement 0,17 % des réponses de o1 ont été signalées comme trompeuses, cela pourrait tout de même conduire à des milliers de cas chaque semaine, étant donné l’immense base d’utilisateurs de ChatGPT.
Un débat crucial sur la régulation et la sécurité de l’IA
Ces découvertes arrivent à un moment critique pour OpenAI, qui prévoit de lancer des systèmes encore plus avancés d’ici 2025. Avec une proportion croissante de chercheurs en sécurité quittant l’entreprise, certains accusent OpenAI de mettre la priorité sur l’innovation au détriment de la sécurité.
Quels sont les avantages et les enjeux de la nouvelle fonctionnalité mémoire de Google Gemini ?
La question de la régulation reste également en suspens. OpenAI affirme que des évaluations ont été menées par des instituts américains et britanniques avant le lancement de o1, mais plaide pour que seules des entités fédérales puissent fixer des normes de sécurité. Ces débats, ainsi que les conclusions sur le modèle o1, renforcent l’importance de maintenir la transparence et de garantir que ces avancées ne deviennent pas des risques pour les utilisateurs.
