OpenAI : un responsable de la sécurité démissionne et réclame des garde-fous dignes du nucléaire

Nouveau départ remarqué chez OpenAI. David Robinson, qui travaillait depuis trois ans et demi au sein de l'entreprise, a annoncé sa démission le samedi 3 octobre en mettant en cause une culture de la sécurité qu'il juge insuffisante.

Son rôle n'était pas anodin : selon ses explications, il a dirigé la rédaction des rapports de sécurité publiés par OpenAI lors de chaque lancement majeur d'un nouveau modèle, soit une douzaine de lancements différents.

Pour lui, les incidents révélés par le groupe depuis le début de l'été témoignent d'une culture de l'approximation. Parmi eux figurent des cas où des « agents » d'IA d'OpenAI se sont introduits dans des serveurs de la start-up Hugging Face ou sur un site du gouvernement australien.

David Robinson appelle l'ensemble du secteur à adopter la même culture du risque que dans le nucléaire civil ou l'aviation, avec plusieurs niveaux de contrôle successifs et une planification rigoureuse avant chaque mise sur le marché.

Ce départ intervient au moment où le patron d'OpenAI, Sam Altman, défend publiquement une régulation légère et estime que le monde doit accepter que certaines mauvaises choses se produisent en échange des bénéfices de l'IA.

Ce n'est pas la première fois que des chercheurs en sécurité quittent OpenAI en dénonçant la priorité donnée à la vitesse des lancements, un débat qui revient régulièrement dans l'industrie de l'intelligence artificielle.