L’ancien PDG de Google, Eric Schmidt, accompagné du PDG de Scale AI, Alexandr Wang, et du directeur du Center for AI Safety, Dan Hendrycks, a publié un rapport appelant les États-Unis à ne pas poursuivre un développement agressif de l’intelligence artificielle générale (AGI) sur le modèle du projet Manhattan.
Selon eux, une telle approche pourrait déstabiliser les relations internationales, notamment avec la Chine.
Lire aussi :
- Anthropic retire discrètement ses engagements IA sous l’ère Biden : s’agit-il d’un changement stratégique ?
- Google révolutionne le shopping en ligne avec une IA capable de transformer vos idées en vêtements
Un avertissement contre une course à l’armement de l’IA
Le rapport, intitulé Superintelligence Strategy, met en garde contre les risques d’une approche similaire à celle du programme nucléaire américain des années 1940. Les auteurs estiment qu’un monopole américain sur l’AGI pourrait inciter d’autres puissances, comme la Chine, à réagir de manière hostile, notamment par des cyberattaques.
Ils expliquent que la tentative d’exclusivité sur une technologie aussi puissante risquerait de déclencher des mesures de rétorsion et des tensions croissantes. En d’autres termes, vouloir dominer l’AGI pourrait provoquer l’effet inverse en encourageant d’autres nations à prendre des mesures radicales pour préserver l’équilibre mondial.
Le partenariat entre Microsoft et OpenAI échappe à une enquête du régulateur britannique
Une stratégie de dissuasion plutôt qu’une domination totale
Au lieu d’une course effrénée vers l’AGI, Schmidt et ses co-auteurs prônent une approche plus défensive. Ils introduisent le concept de Mutual Assured AI Malfunction (MAIM), qui suggère que les gouvernements devraient développer des capacités pour désactiver les projets d’IA jugés menaçants avant qu’ils ne deviennent dangereux.
Plutôt que d’investir massivement dans le développement de superintelligences, ils proposent que les États-Unis se concentrent sur des moyens de dissuasion : renforcer leur arsenal cybernétique, restreindre l’accès aux puces avancées et limiter la prolifération des modèles open source pouvant être utilisés par des adversaires.
Un changement de position pour Schmidt
Cette prise de position est particulièrement marquante venant d’Eric Schmidt, qui a longtemps défendu une approche offensive pour que les États-Unis conservent leur avance sur la Chine en matière d’IA. Il avait récemment publié une tribune alertant sur la montée en puissance de l’IA chinoise, notamment à travers le modèle DeepSeek.
Cependant, ce rapport souligne un changement de paradigme : au lieu de chercher à être les premiers à atteindre la superintelligence, les États-Unis devraient s’assurer que personne ne puisse l’exploiter de manière incontrôlable. Cela reflète un débat plus large entre ceux qui veulent ralentir l’IA pour limiter les risques (les doomers) et ceux qui prônent une accélération sans restriction (les ostriches).
Eric Schmidt, ex-PDG de Google, alerte : l’IA pourrait causer des catastrophes mondiales !
En fin de compte, Schmidt et ses co-auteurs plaident pour une voie médiane, où la prudence et la cybersécurité sont privilégiées pour éviter des conséquences incontrôlables d’une course effrénée vers l’AGI.
