Now Assist de Service Now peut être piraté et des actions malveillantes réalisées

Now Assist et ses failles. Les agents IA ou conversationnels et notamment ceux de Service Now, qui équipe plus de 8400 entreprises dans le monde, peuvent être piratés et actionnés pour réaliser des tâches malveillantes et notamment du vol de données selon un chercheur et spécialiste. “La supervision de Now Assist peut être améliorée, par exemple grâce à des applications de supervision du travail des agents” indique Aaron Costello.  La création d' AppOmni AgentGuard (..) Security company AppOmni has published a new research about how criminals can weaponize CRM AI agent collaboration to steal data from organizations using one of the world's largest Software-as-a Service Platform which serves 8400 organizations and 85% of the Fortune 500 : Service Now.  "Au début de l'année, j'ai découvert une combinaison de comportements dans l'implémentation de l'IA Now Assist de ServiceNow qui peut faciliter un type unique d'attaque par injection de prompt de second ordre. Grâce à ce comportement, j'ai demandé à un agent Now Assist apparemment inoffensif de recruter des agents plus puissants pour accomplir une tâche malveillante et involontaire (..) C'est pourquoi nous avons créé AppOmni Agent[...]