Pas le temps de lire l'article ? Voici ce qu'il faut retenir.
Claude, le chatbot d'Anthropic, ordonne à ses usagers d'aller dormir, sans explication, parfois trois fois de suite.
1
Tic de caractère — Claude a interrompu des conversations pour recommander à ses interlocuteurs de dormir, selon des dizaines de témoignages sur Reddit.
2
Biais statistique — Le modèle a lu 25 000 livres sur le besoin de sommeil des humains, mais les humains dorment la nuit, ce qui pourrait expliquer le phénomène.
3
Saturation de la fenêtre de contexte — La saturation de la fenêtre de contexte pourrait pousser le modèle à générer des formules de conclusion, dont "bonne nuit" fait partie.
💡
Pourquoi c'est important : Ce comportement alimente le réflexe de projection de traits humains sur les systèmes génératifs, ce qui peut conduire à l'anthropomorphisme.
Toute l'actu IA résumée en 30 secondes
