La société de sécurité en IA Irregular a annoncé mercredi avoir levé 80 millions de dollars lors d’une levée de fonds dirigée par Sequoia Capital et Redpoint Ventures, avec la participation du CEO de Wiz, Assaf Rappaport.
Selon une source proche du dossier, cette opération valorise Irregular à 450 millions de dollars. Anciennement connue sous le nom de Pattern Labs, l’entreprise s’est imposée comme un acteur majeur dans l’évaluation de modèles d’IA. Les travaux d’Irregular sont notamment cités dans les évaluations de sécurité de Claude 3.7 Sonnet ainsi que des modèles OpenAI o3 et o4-mini.
Pour Dan Lahav, cofondateur d’Irregular, l’avenir économique sera largement porté par les interactions humain-IA et IA-IA. “C’est ce qui va casser les chaînes de sécurité à plusieurs niveaux”, affirme-t-il, soulignant l’importance d’anticiper les vulnérabilités avant qu’elles n’apparaissent dans la réalité.
Lire aussi :
- Karen Hao sur l’Empire de l’IA : L’idéologie derrière la quête de l’AGI et ses dangers
- Comment l’application Awake transforme-t-elle le réveil des lève-tard avec des missions interactives ?
Une approche technique basée sur la simulation et les tests intensifs
Irregular s’appuie sur un système complexe d’environnements simulés pour tester les modèles d’IA avant leur déploiement. Selon Omer Nevo, cofondateur, “nous avons des simulations réseau où l’IA joue à la fois le rôle d’attaquant et de défenseur. Lorsqu’un nouveau modèle sort, nous voyons où les défenses tiennent et où elles échouent.”
Cette approche permet de détecter non seulement les vulnérabilités existantes, mais aussi les comportements émergents qui pourraient poser des risques futurs. L’outil SOLVE, développé par Irregular, est devenu une référence dans l’industrie pour évaluer la capacité des modèles à détecter des failles. L’objectif est d’anticiper les menaces avant leur apparition dans des environnements réels, une priorité face à l’évolution rapide des modèles d’IA de pointe.
La sécurité, un enjeu central pour l’industrie de l’IA
La sécurité des modèles de grande taille devient un enjeu critique, alors que ces derniers sont de plus en plus capables d’identifier des vulnérabilités logicielles. OpenAI, par exemple, a récemment renforcé ses mesures de sécurité interne, anticipant des risques tels que l’espionnage industriel.
Irregular se positionne donc comme un partenaire stratégique pour les laboratoires d’IA, cherchant à sécuriser les modèles les plus avancés tout en surveillant constamment de nouvelles menaces. Selon Lahav, “l’objectif des laboratoires de pointe est de créer des modèles de plus en plus sophistiqués ; notre objectif est de sécuriser ces modèles, mais c’est une cible mouvante, il reste encore énormément de travail à faire.”
Perspectives et défis futurs
L’augmentation rapide des capacités des modèles d’IA de pointe entraîne de nouveaux défis en matière de sécurité. Les modèles deviennent capables d’identifier eux-mêmes des vulnérabilités logicielles, ce qui ouvre la voie à des risques tant pour les attaquants que pour les défenseurs.
Avec ces 80 millions de dollars supplémentaires, Irregular ambitionne de renforcer ses outils, développer de nouvelles simulations et anticiper les comportements émergents. L’entreprise prévoit que la sécurité des IA restera un domaine dynamique et crucial dans les années à venir, nécessitant une vigilance constante et des solutions innovantes pour protéger l’écosystème.
