Bonsai-2 : le modèle IA qui tient sur presque rien et qui tourne où GLM-5.2 ne passe pas

Il y a des annonces qui font du bruit parce qu’elles promettent la lune, et il y en a d’autres, plus discrètes, qui changent réellement la donne pour quiconque bricole de l’IA sur sa propre machine. Bonsai-2 27B appartient à la seconde catégorie. Ce modèle, dévoilé début septembre 2026 par le laboratoire PrismML, tient dans à peine 5,9 gigaoctets tout en conservant l’essentiel des capacités d’un modèle neuf fois plus lourd. Concrètement : ce qui nécessitait hier une grosse carte graphique professionnelle tourne aujourd’hui sur un ordinateur portable un peu costaud, voire sur certains smartphones récents. On vous explique comment c’est possible, et surtout ce que ça change pour vous.

Bonsai-2, c’est quoi exactement ?

Bonsai-2 27B est un modèle de langage (comprenez : une IA capable de comprendre et de générer du texte, du code, et même d’analyser des images) construit à partir de Qwen3.8 27B, un modèle open source déjà solide développé par Alibaba. PrismML n’a pas réinventé la roue côté intelligence : le travail a plutôt porté sur la compacité. L’idée directrice tient en une phrase : rendre un cerveau artificiel presque aussi malin, mais tenir dans une poche numérique bien plus petite.

💡 À SAVOIR Un modèle de langage (ou LLM, pour Large Language Model) est un programme entraîné sur d’immenses quantités de texte pour prédire, mot après mot, la suite la plus probable d’une phrase. C’est ce mécanisme, poussé à l’extrême, qui permet à une IA de répondre à vos questions, écrire du code ou résumer un document.

La compression « quasi sans perte », expliquée simplement

Voici où ça devient intéressant, et un peu technique, accrochez-vous, on va démêler ça. Un modèle d’IA classique stocke ses connaissances sous forme de milliards de nombres, appelés poids. Chacun de ces poids est habituellement encodé en 16 bits de précision (le format FP16), un peu comme si chaque information était notée avec seize chiffres après la virgule. C’est précis, mais ça prend énormément de place.

PrismML a fait un pari radical avec Bonsai-2 : au lieu de garder cette précision fine, chaque poids du modèle est réduit à seulement trois valeurs possibles : -1, 0 ou +1. On appelle ça une quantification ternaire. Associée à une technique de mise à l’échelle par groupes (chaque petit bloc de poids garde un facteur d’ajustement pour ne pas perdre toute nuance), cette approche ramène le coût de stockage à environ 1,76 bit effectif par poids contre 16 initialement. Le résultat : une réduction de plus de 9 fois la taille du modèle.

📝 NOTE : PrismML avance que Bonsai-2 conserve 98,2 % des performances globales du modèle original (score agrégé de 83,9 contre 85,4 pour Qwen3.8 27B en pleine précision). Ces chiffres proviennent de la communication du laboratoire lui-même.

Pourquoi c’est un sujet qui vous concerne (même sans carte graphique de compétition)

On a beaucoup parlé sur ce blog de GLM-5.2, un modèle capable de tourner en local mais qui exige un minimum de mémoire vive et une carte graphique dédiée pour rester fluide. Bonsai-2 change la donne parce qu’il vise justement les machines qui n’ont pas ce luxe. Les chiffres communiqués par PrismML donnent le ton :

• Sur une RTX 5090 (carte graphique haut de gamme), le modèle atteint jusqu’à 143 tokens par seconde, de quoi générer du texte quasiment en temps réel.
• Sur une RTX 4090, la consommation tombe à 0,714 milliwattheure par token généré, un chiffre qui parlera aux plus soucieux de leur facture d’électricité.
• Sur un Mac équipé d’une puce Apple M5 Max, on obtient 46,8 tokens par seconde, largement suffisant pour un usage conversationnel fluide.
• Une prise en charge iOS via MLX (le framework d’Apple optimisé pour ses puces) est également annoncée, ce qui laisse imaginer une IA compétente tournant directement sur un iPhone récent, sans connexion internet.

Autrement dit, Bonsai-2 s’adresse à tous ceux qui veulent une IA locale, privée, sans envoi de données vers un serveur distant, sur du matériel grand public, y compris des configurations qui ne pourraient tout simplement pas faire tourner GLM-5.2 dans de bonnes conditions.

Fenêtre de contexte et talents multiples

Bonsai-2 n’est pas qu’une prouesse de compression : le modèle conserve une fenêtre de contexte de 262 144 tokens, ce qui correspond en gros à un roman entier que l’IA peut « garder en tête » pendant une conversation ou une analyse. Il accepte aussi des entrées multimodales, c’est-à-dire qu’on peut lui soumettre à la fois du texte et des images, ce qui ouvre la porte à des usages comme l’analyse de documents scannés, de captures d’écran ou de schémas techniques.

Cas d’usage	Pourquoi Bonsai-2 convient
Boucles d’agents de codage	Rapide et léger, il peut tourner en continu sans saturer la mémoire de la machine
Workflows informatiques privés	Aucune donnée sensible n’a besoin de sortir de l’ordinateur
Analyse multimodale de documents	Comprend simultanément texte et image
Systèmes hybrides cloud/local	Peut prendre le relais d’un modèle cloud quand la connexion manque

Les limites à garder en tête

⚠️ ATTENTION La compression ternaire n’est pas magique : elle sacrifie mécaniquement une part de nuance dans les réponses les plus pointues, notamment sur des tâches de raisonnement mathématique très long ou de génération de code complexe multi-fichiers. Le gain en légèreté a donc un prix, même minime selon PrismML.

Autre point de vigilance, plus terre-à-terre : Bonsai-2 est distribué sous licence Apache 2.0, ce qui autorise un usage commercial et une modification libre, une excellente nouvelle pour les développeurs, mais qui suppose de vérifier soi-même la conformité de cet usage selon son secteur d’activité, en particulier si des données personnelles transitent par le modèle.

Comment l’essayer chez vous

• Vérifiez que votre machine dispose d’au moins 8 Go de mémoire vive libre (RAM ou VRAM selon la configuration) : le modèle compressé pèse environ 5,9 Go, il faut de la marge pour le faire tourner confortablement.
• Passez par un outil d’exécution locale comme Ollama ou LM Studio, qui simplifie grandement l’installation d’un modèle au format GGUF ou MLX.
• Sur Mac Apple Silicon, privilégiez la version optimisée MLX pour profiter pleinement des gains de vitesse annoncés.
• Testez d’abord sur une tâche simple (résumé, correction de texte) avant de lui confier un projet de code critique, le temps de vous faire votre propre avis sur ses limites.

On en débat ?

• Avez-vous déjà testé un modèle IA compressé (quantifié) sur votre propre machine ? Quelle a été votre expérience ?
• Pensez-vous que la miniaturisation des modèles va démocratiser l’IA locale plus vite que les baisses de prix du cloud ?
• Entre Bonsai-2 et GLM-5.2, lequel choisiriez-vous pour un usage privé sur ordinateur portable, et pourquoi ?

Source : PrismML