定义
词元（token）是语言模型读入和生成文本的基本单位。分词器把原始文本切分成词元，一个词元可能是一个词、一个子词、一个字，也可能是一个标点或特殊符号。
工作方式
模型不直接处理字符，而是把每个词元映射为向量再参与计算；输入和输出都以词元序列的形式呈现。一段文本消耗的词元数量决定计算量、成本和可用的上下文长度。
使用场景
开发者在控制成本、估算请求大小和规划上下文容量时都会关注词元数；按用量计费的 API 和流式输出的进度，通常也以词元为基本度量。
易混概念
模型逐个生成下一个词元，其快慢以每秒词元数衡量；一次请求能容纳多少词元，则受上下文窗口约束。这些都发生在大语言模型内部。