Pas le temps de lire l'article ? Voici ce qu'il faut retenir.
Un projet open source baptisé Obliteratus promet de retirer en un clic les mécanismes de refus intégrés aux grands modèles de langage.
1
Obliteratus — Cet outil analyse la « géométrie du refus » dans les réseaux de neurones afin de neutraliser les garde-fous qui poussent une IA à répondre « je ne peux pas vous aider avec ça ».
2
Fonctionnement — Obliteratus intervient directement dans les paramètres du modèle pour se débarrasser des garde-fous, plutôt que de jouer avec des prompts tordus.
3
Limitation — L'outil est limité aux modèles « open weights », ce qui signifie qu'il ne peut pas être utilisé avec tous les modèles de langage.
💡
Pourquoi c'est important : Cet outil pourrait banaliser le retrait des garde-fous et rendre les assistants bien plus complaisants sur des sujets sensibles.
Toute l'actu IA résumée en 30 secondes
