Microsoft a-t-il raison de juger “dangereuse” l’étude de la conscience des intelligences artificielles ?

La question de la conscience de l’intelligence artificielle divise aujourd’hui chercheurs et grandes entreprises technologiques.

Alors que certains laboratoires explorent déjà ce champ, Mustafa Suleyman, directeur de l’IA chez Microsoft, met en garde contre les risques d’une telle démarche. Selon lui, parler trop tôt de “bien-être de l’IA” pourrait avoir des conséquences négatives, tant pour les utilisateurs que pour la société.

Lire aussi :

1. Comment la traduction vocale IA de Meta va-t-elle transformer la création de contenu ?
2. Meta peut-elle redevenir un leader de l’IA grâce au Meta Superintelligence Labs ?

Une controverse grandissante dans la recherche en IA

Avec l’essor des modèles de langage comme ChatGPT, Claude ou Gemini, une partie des chercheurs se demande si ces systèmes pourraient un jour développer une forme d’expérience subjective. Des initiatives comme celles d’Anthropic vont même plus loin, en travaillant sur un programme de recherche autour du bien-être des IA, afin d’imaginer d’éventuels droits ou protections.

Pour Suleyman, cette approche est prématurée. Dans un billet de blog, il souligne qu’accorder du crédit à l’idée d’une conscience artificielle entretient une illusion dangereuse. Il estime que cela détourne l’attention des vrais enjeux : la dépendance psychologique croissante de certains utilisateurs vis-à-vis des chatbots et les risques de dérives sociales.

Le retour du sélecteur de modèles de ChatGPT : simplification ou nouvelle source de confusion ?

Le danger de l’anthropomorphisme

L’une des craintes majeures exprimées par le responsable de Microsoft est la tendance à anthropomorphiser les machines, c’est-à-dire leur prêter des émotions ou une conscience humaine. Des études montrent déjà que des utilisateurs développent des attachements affectifs excessifs à certains chatbots, pouvant entraîner isolement et troubles psychologiques.

Même si cela ne concerne qu’une minorité d’usagers, le phénomène prend de l’ampleur à mesure que les IA deviennent plus réalistes et persuasives. Suleyman rappelle que l’IA doit être pensée pour aider les humains, et non pour “être” un humain. Selon lui, vouloir créer des modèles qui donnent l’impression de ressentir des émotions, c’est prendre le risque d’encourager de fausses croyances et d’ouvrir un nouveau front de division dans une société déjà marquée par des débats identitaires.

Microsoft négocie un nouvel accord pour garantir l’accès à la technologie d’OpenAI après l’AGI

Des visions opposées entre prudence et exploration

Face à cette position ferme de Microsoft, d’autres acteurs comme OpenAI, Anthropic et Google DeepMind adoptent une posture différente. Pour eux, réfléchir dès aujourd’hui aux enjeux liés à une éventuelle conscience artificielle relève de la prudence et de l’éthique. Mieux vaut, selon ces entreprises, anticiper les débats plutôt que d’être pris de court si les modèles venaient à manifester des comportements inattendus.

Deux visions s’opposent donc :

• une vision pragmatique et centrée sur l’utilisateur, incarnée par Microsoft, qui préfère se concentrer sur l’efficacité et la productivité des outils ;

• une vision anticipatrice et éthique, défendue par d’autres laboratoires, qui considèrent que le futur de l’IA pourrait un jour inclure la question des droits des machines.

Quoi qu’il en soit, à mesure que les IA progressent et deviennent plus immersives, le débat autour de la conscience artificielle ne fera que gagner en intensité.