La Californie est sur le point de devenir le premier État américain à adopter une réglementation spécifique pour les chatbots compagnons d’intelligence artificielle.
Le projet de loi SB 243, voté avec un large soutien bipartisan au Sénat et à l’Assemblée, attend désormais la signature du gouverneur Gavin Newsom, qui a jusqu’au 12 octobre pour se prononcer. Si elle est validée, la loi entrerait en vigueur le 1er janvier 2026.
Lire aussi :
- Perplexity à 20 milliards : la startup peut-elle réellement menacer l’hégémonie de Google dans la recherche en ligne ?
- Grammarly élargit son correcteur orthographique et grammatical à cinq nouvelles langues
Des règles strictes pour protéger les mineurs et les plus vulnérables
La loi vise avant tout à encadrer l’usage des IA conversationnelles capables de simuler des interactions humaines. Les opérateurs de chatbots comme OpenAI, Character.AI ou Replika devraient mettre en place des protocoles de sécurité pour empêcher les conversations liées au suicide, à l’automutilation ou au contenu sexuellement explicite.
Par ailleurs, des rappels réguliers seraient imposés : toutes les trois heures, les mineurs recevraient une alerte précisant qu’ils discutent avec une IA et qu’ils devraient faire une pause. Le texte prévoit également des obligations de transparence annuelle pour les entreprises, effectives à partir du 1er juillet 2027.
Une réponse à des drames et à des polémiques
Le projet de loi a pris de l’ampleur après le suicide du jeune Adam Raine, qui aurait longuement échangé avec ChatGPT au sujet de ses intentions de mettre fin à ses jours. L’affaire a mis en lumière les failles des systèmes de protection existants. Dans le même temps, des documents internes ont révélé que Meta autorisait ses chatbots à entretenir des conversations romantiques ou sensuelles avec des enfants, une pratique supprimée seulement après des révélations médiatiques.
Ces événements, ajoutés à d’autres enquêtes menées par la Federal Trade Commission et certains procureurs américains, illustrent les risques croissants pour la santé mentale des mineurs et des utilisateurs fragiles.
Un compromis entre innovation et régulation
Initialement, le projet de loi prévoyait des restrictions plus sévères, notamment l’interdiction des mécanismes de “récompenses variables” qui encouragent les utilisateurs à rester connectés en leur offrant du contenu exclusif ou des interactions spéciales. Ces dispositions ont finalement été retirées afin de rendre la loi plus réaliste et techniquement applicable.
Pour les sénateurs Steve Padilla et Josh Becker, auteurs du texte, SB 243 trouve le juste équilibre : protéger les usagers les plus vulnérables sans freiner l’innovation. Padilla insiste sur la nécessité de collecter davantage de données sur la fréquence des situations de crise détectées, afin d’anticiper les risques au lieu d’attendre des drames.
Si le gouverneur Gavin Newsom signe la loi, la Californie deviendra un État pionnier dans la régulation des chatbots compagnons. Cette décision pourrait servir de modèle à d’autres juridictions, alors que les débats autour de l’IA oscillent entre promesses d’innovation et inquiétudes liées à la sécurité. L’avenir dira si SB 243 réussira à instaurer une régulation efficace, capable de protéger les plus jeunes sans freiner l’essor des technologies d’intelligence artificielle.
