Sam Altman, le PDG d’OpenAI, quitte le comité de sécurité interne, un groupe qui supervisait les décisions critiques concernant la sécurité des projets et opérations de l’entreprise.
OpenAI a annoncé que ce comité fonctionnerait désormais de manière indépendante.
Lire aussi :
- OpenAI o1 vaut-il vraiment son coût élevé pour les tâches complexes qu’il promet de résoudre ?
- Comment OpenAI compte-t-il rendre o1 plus accessible aux utilisateurs tout en maintenant son avantage concurrentiel ?
Un comité désormais indépendant
Dans un récent article de blog, OpenAI a déclaré que ce comité, appelé le Comité de Sécurité, allait désormais fonctionner comme un groupe indépendant de surveillance, sous la présidence de Zico Kolter, professeur à l’université Carnegie Mellon. Les autres membres de ce comité incluent Adam D’Angelo, PDG de Quora, le Général à la retraite Paul Nakasone, ainsi que Nicole Seligman, ancienne vice-présidente de Sony. Tous font déjà partie du conseil d’administration d’OpenAI.
OpenAI a également précisé que ce comité avait effectué un examen de sécurité de son dernier modèle d’IA, o1, après le départ de Sam Altman. Désormais, le comité continuera à recevoir des briefings réguliers des équipes de sécurité d’OpenAI et conservera le pouvoir de retarder les lancements si des préoccupations en matière de sécurité se présentent.
Pourquoi OpenAI choisit-elle de garder secrètes les informations sur son programme Converge 2 ?
Les enjeux derrière ce changement
Le départ de Sam Altman survient après des interrogations soulevées par cinq sénateurs américains concernant les politiques d’OpenAI. La société a récemment été critiquée, notamment parce qu’une partie de l’équipe dédiée aux risques à long terme de l’IA a quitté l’entreprise. Certains anciens chercheurs ont également accusé Altman de s’opposer à une véritable régulation de l’IA, préférant des politiques qui avantagent les intérêts commerciaux d’OpenAI.
OpenAI a également augmenté de manière significative ses dépenses de lobbying, passant de 260 000 $ pour l’ensemble de l’année précédente à 800 000 $ pour les six premiers mois de 2024. Par ailleurs, Altman a rejoint le Comité de sécurité de l’intelligence artificielle du département de la Sécurité intérieure des États-Unis, qui offre des recommandations sur le développement et le déploiement de l’IA dans les infrastructures critiques du pays.
Quels impacts les départs de John Schulman et Greg Brockman auront-ils sur l’avenir d’OpenAI ?
Un comité réellement indépendant ?
Même sans Sam Altman, il est peu probable que le Comité de Sécurité d’OpenAI prenne des décisions contraires à la stratégie commerciale de l’entreprise. OpenAI a annoncé en mai qu’elle se concentrerait sur les critiques valables, une notion qui peut varier selon les intérêts. Deux anciens membres du conseil d’administration, Helen Toner et Tasha McCauley, estiment qu’OpenAI ne peut pas s’auto-surveiller de manière efficace en raison des pressions liées aux profits. Avec une levée de fonds de plus de 6,5 milliards de dollars en cours, valorisant OpenAI à plus de 150 milliards, l’entreprise pourrait abandonner sa structure hybride à but non lucratif, initialement créée pour limiter les rendements des investisseurs et rester fidèle à sa mission.
