Pas le temps de lire l'article ? Voici ce qu'il faut retenir.
Un assistant IA doté d'un accès au web lit chaque page dans son intégralité, y compris les passages hors de portée du regard humain, qui peuvent finir dans sa mémoire longue.
1
Empoisonnement persistant de la mémoire — Les chercheurs ont découvert un modèle de menace qui permet de fausser la mémoire d'un assistant IA en insérant des fausses informations dans une page web.
2
Assistant IA victime — Les produits exposés à cette menace incluent ChatGPT, Gemini, Claude et Microsoft 365 Copilot.
3
Réflexe de sécurité — Pour limiter les dégâts, il est recommandé de relire de temps en temps ce que le programme a retenu.
💡
Pourquoi c'est important : Cette menace peut fausser la mémoire d'un assistant IA pendant des mois, ce qui peut avoir des conséquences importantes pour les utilisateurs qui dépendent de ces outils.
Toute l'actu IA résumée en 30 secondes
