Pas le temps de lire l'article ? Voici ce qu'il faut retenir.
Une startup soutenue par Vinod Khosla, PrismML, affirme avoir compressé un modèle d'IA de 27 milliards de paramètres dans moins de 4 Go sur un iPhone 17 Pro.
1
Compression d'IA — PrismML a réussi à réduire la mémoire nécessaire pour un modèle d'IA de 27 milliards de paramètres de 54 Go à moins de 4 Go.
2
Performances préservées — La startup revendique des performances préservées sur les tests de référence malgré la compression.
3
Méthode innovante — PrismML utilise des architectures dites 1-bit et ternaires pour réduire la mémoire nécessaire et accélérer l'inférence.
💡
Pourquoi c'est important : Cette avancée pourrait avoir un impact significatif sur l'utilisation des modèles d'IA dans les appareils mobiles, permettant des applications plus complexes et plus rapides.
Toute l'actu IA résumée en 30 secondes
