Pas le temps de lire l'article ? Voici ce qu'il faut retenir.
Une startup nommée PrismML a fait tourner un modèle d'IA de 27 milliards de paramètres sur un iPhone, sans passer par le cloud.
1
Modèle d'IA record — Bonsai 27B est le premier modèle de cette taille capable de tourner entièrement sur un téléphone, iPhone compris.
2
Capacités avancées — Bonsai 27B gère le texte et les images, et est capable de raisonnement multi-étapes, d'utilisation de outils structurés et de workflows à long contexte.
3
Défi de la mémoire — Le modèle pèse environ 54 Go, ce qui est trop lourd pour tourner en local sur un smartphone.
💡
Pourquoi c'est important : Cette avancée pourrait permettre aux utilisateurs de bénéficier d'IA puissante sur leurs téléphones portables, sans avoir besoin d'accéder au cloud.