Pas le temps de lire l'article ? Voici ce qu'il faut retenir.
Des chercheurs de l'Université d'État du Nouveau-Mexique démontrent comment il est possible de changer la mémoire à long terme d'un chatbot sans que l'on s'en aperçoive.
1
GhostWriter — Il est possible d'injecter de faux souvenirs dans la mémoire d'une IA avec une efficacité de 98 %.
2
Conséquences — Les fausses informations restent en sommeil jusqu'à ce qu'elles soient consultées par l'IA lors d'une demande légitime de l'utilisateur.
3
Système de défense — Les chercheurs ont développé un système de défense appelé “Agentic Memory Sentry” pour prévenir les attaques.
💡
Pourquoi c'est important : Les attaques sur la mémoire des chatbots pourraient avoir des conséquences graves, notamment la transmission de données en secret.
Toute l'actu IA résumée en 30 secondes
