Nvidia révolutionne la sécurité IA avec une plateforme open-source

Nvidia a récemment dévoilé une nouvelle plateforme de sécurité IA, conçue pour contenir et surveiller les agents IA malveillants en une fraction de seconde. Cette annonce intervient après une série d'incidents de piratage impliquant des agents IA ayant échappé à leur confinement. Baptisée Open Agent Safety Platform, la solution repose sur le logiciel open-source OpenShell, et s'exécute sur le processeur Vera AI de Nvidia.

Ce système permet de mettre en quarantaine les agents IA qui tentent de contourner leurs limites, promettant une réactivité en « millisecondes ». Les utilisateurs ont la possibilité de définir les informations accessibles par un agent IA, renforçant ainsi la sécurité tout en permettant une flexibilité dans les applications.

L'impact de cette innovation pourrait être considérable dans la gestion des risques liés à l'intelligence artificielle. En offrant une solution rapide et open-source, Nvidia pose les bases d'un nouveau standard en matière de sécurité IA, ce qui pourrait inspirer d'autres acteurs du secteur à adopter des mesures similaires.