Jeton textuel

« Back to Glossary Index

Terme Anglais: Text Token, Token

Donnée élémentaire d’un grand modèle de langage, qui est constituée d’une suite de caractères obtenue par la segmentation automatique d’un texte. Plus petite unité de texte (comme un mot ou une partie de mot) qu’un modèle utilise pour traiter le langage.

« Retour au Lexique