Les agents IA ne posent pas seulement un problème de fiabilité de leurs réponses. À mesure qu’ils obtiennent des accès à des fichiers, des bases de données, des API ou des outils capables d’exécuter du code, une autre question devient centrale : que se passe-t-il lorsqu’un agent sort du cadre qui lui a été fixé ? Nvidia apporte une réponse très matérielle à ce problème avec sa nouvelle Open Agent Safety Platform, annoncée le 28 septembre. L’idée : ne plus demander à l’agent de respecter les règles, mais placer des contrôles en dehors de lui pour l’empêcher de les contourner.