Ilya Sutskever, l’un des cofondateurs d’OpenAI, a récemment annoncé le lancement de sa nouvelle entreprise, Safe Superintelligence Inc. (SSI), seulement un mois après avoir quitté OpenAI.
Cette nouvelle initiative, fondée en collaboration avec Daniel Gross, ancien partenaire de Y Combinator, et Daniel Levy, ex-ingénieur d’OpenAI, se concentre sur la sécurité de l’intelligence artificielle.
Lire aussi :
- Quel impact le départ d’Ilya Sutskever aura sur l’avenir d’OpenAI et le développement de l’intelligence artificielle en général ?
- Les coûts de ChatGPT : Tout ce que vous devez savoir sur les tarifs proposés par OpenAI
Un départ marquant de OpenAI
Sutskever, qui a joué un rôle clé chez OpenAI en tant que chef scientifique, a quitté l’entreprise suite à des désaccords sur l’approche de la sécurité de l’IA. À OpenAI, il travaillait avec Jan Leike sur la sécurisation des systèmes superintelligents, anticipant l’arrivée prochaine d’une IA capable de surpasser l’intelligence humaine. Cette perspective les a poussés à explorer des moyens de contrôler et de restreindre ces systèmes pour prévenir des conséquences potentiellement néfastes. Après une rupture avec la direction d’OpenAI, Sutskever et Leike ont pris des chemins différents, ce dernier rejoignant Anthropic, une autre société d’IA.
Anthropic recrute l’ancien responsable de la sécurité d’OpenAI pour diriger une nouvelle équipe
La mission de Safe Superintelligence Inc.
La mission de SSI est clairement définie : se concentrer exclusivement sur la sécurité de l’IA. Dans une déclaration récente, Sutskever a souligné que SSI est notre mission, notre nom et notre feuille de route produit, car c’est notre seul objectif. L’entreprise vise à développer des capacités d’IA avancées tout en assurant que la sécurité soit toujours en avance. Cette approche permet à SSI de progresser rapidement tout en minimisant les risques associés à la superintelligence. L’accent mis sur la sécurité et les capacités comme des problèmes techniques à résoudre à travers des percées scientifiques et d’ingénierie distingue SSI des autres acteurs du domaine.
Une structure commerciale innovante
Contrairement à OpenAI, qui a commencé comme une organisation à but non lucratif avant de se restructurer en raison des besoins financiers croissants, SSI est conçue dès le départ comme une entité à but lucratif. Ce modèle permet à SSI de lever des fonds plus facilement et de se concentrer sur ses objectifs sans les contraintes des cycles de produits ou des pressions commerciales à court terme. Daniel Gross, cofondateur de SSI, a déclaré que lever des capitaux ne sera pas un problème, soulignant l’attrait de l’entreprise pour les investisseurs.
L’impact potentiel de SSI sur l’avenir de l’IA
Le lancement de SSI pourrait avoir un impact significatif sur l’industrie de l’IA, en particulier en ce qui concerne la sécurité. Avec une équipe expérimentée et une mission claire, SSI est bien positionnée pour faire des avancées majeures dans la gestion des risques associés à l’IA superintelligente. L’engagement de Sutskever envers la sécurité de l’IA, associé à son expertise, pourrait faire de SSI un leader dans ce domaine critique.
