Avez-vous déjà utilisé ChatGPT ? Après avoir lancé une conversation, vous recevez une notification vous indiquant que vous avez utilisé tout vos crédits, l’interface se bloque et vous recommande avec insistance de vous abonner à un plan payant pour pouvoir poursuivre la conversation commencée. Rassurez-vous, vous n’êtes pas le premier à recevoir ce type d’alerte.

Ce message s’affiche lorsque vous avez atteint votre limite de tokens. Les tokens sont les unités de base utilisées par les modèles d’IA pour traiter le texte. Ils correspondent approximativement à des morceaux de mots ou de courtes séquences de caractères, et servent à mesurer votre consommation d’utilisation.

Dans cet article vous aurez appris ce qu’est un token et comment s’intègre t-il dans le business model des concepteurs des modèles d’IA.

C’est quoi un token ?

Comme mentionné plus haut, un token sert d’unité de base utilisées par les modèles d’IA pour le traitement de texte. Il s’agit d’une séquence de caractères issue d’un mot ou plus largement d’une phrase. A titre d’exemple, le mot apprendre est divisé en 3 tokens ; app, rend et re.

Un mot plus court peut bien sûr être composé que d’un seul token comme par exemple : chat. Plus un mot est complexe dans sa forme, plus il sera composé de tokens (anticonstitutionnellement devient ant icon stitution nel lement soit 5 tokens). Le procédé de découpage est le même pour un phrase : Bonjour, je m’appelle Nexus est composé de 7 tokens. À noter que dans le contexte d’un ensemble de mots, la ponctuation peut être inclus dans le comptage des tokens. Ici, la virgule après Bonjour constitue un token. Pour les espaces, ils sont la plupart du temps rattaché au token précédent ou le prochain.

Dans la langue anglaise, un token représente en moyenne les 3/4 d’un mot. Selon la langue, le processus de découpage varie comme c’est le cas en français.

Comment les tokens alimentent la stratégie économique des fournisseurs de modèles d’IA génératives ?

La réponse est simple, la technologie de l’IA générative s’articule globalement autour de la génération de textes et de contenues multimodales (audio, vidéo, image…). De plus, les principaux leaders du marché de l’IA générative tel que OpenAI avec ChatGPT ou Gemini développé par Google s’appuie sur la consommation de tokens pour financer l’usage par les utilisateurs.

Ce que peu de gens savent : votre consommation ne se limite pas aux tokens de vos messages (tokens d’entrée), elle inclut aussi ceux générés par l’IA en réponse (tokens de sortie). Et c’est précisément ces derniers qui représentent la part la plus importante de votre consommation totale.

Le coût caché pour les entreprises

Pour les entreprises, il est très difficile de déterminer le coût final sur la facture si l’entreprise choisit d’intégrer un modèle d’IA générative au sein de ses processus internes. Chaque employé utilisant différemment l’IA pour avancer dans ses tâches. Par ailleurs, une interaction simple de deux lignes peut représenter une accumulation de 20 à 30 000 tokens.

À cela s’ajoute le coût de l’entraînement ou du fine-tuning du modèle, qui représente lui aussi une part significative du budget initial. Les organisations se retrouvent donc à piloter deux inconnues à la fois : un coût fixe d’intégration difficile à amortir, et un coût variable d’usage quasi impossible à prévoir.

C’est précisément pour cette raison que la gouvernance de l’IA ne peut pas se résumer à un choix technologique. Elle implique une réflexion budgétaire, organisationnelle et in fine, une politique d’usage claire à l’échelle de l’entreprise.