OpenAI soutient une loi américaine imposant des évaluateurs indépendants pour l'IA
OpenAI a annoncé son soutien à une disposition clé du FRONTIER Act, un texte bipartisan présenté à la Chambre des représentants américaine par le républicain Jay Obernolte et la démocrate Lori Trahan, qui vise à créer le tout premier cadre fédéral de sécurité pour l'intelligence artificielle.
Chris Lehane, directeur des affaires internationales d'OpenAI, a indiqué aux journalistes que l'entreprise soutient une disposition centrale du texte : l'obligation, pour les principaux laboratoires d'IA, d'intégrer des évaluateurs externes chargés de vérifier que leurs modèles sont développés de manière sûre.
Le texte prévoit la création d'« organisations de vérification indépendantes » (IVO), qui pourraient intervenir directement au sein des entreprises d'IA pour s'assurer que leurs protocoles de sécurité permettent de limiter ce que la loi appelle des « niveaux acceptables de risque catastrophique ».
Le FRONTIER Act imposerait également aux développeurs d'IA de publier des rapports réguliers sur leurs modèles et de divulguer tout incident de sécurité identifié.
OpenAI précise toutefois ne pas avoir donné son aval à l'intégralité du texte : l'entreprise soutient le principe des audits indépendants, sans pour autant endosser formellement l'ensemble des dispositions du projet de loi. Cette annonce intervient dans la même semaine où l'entreprise a publié son propre cadre interne de signalement des comportements anormaux de ses modèles, et où ses dirigeants ont publiquement appelé à un ralentissement du rythme de développement de l'IA à l'échelle du secteur.