Token 到底是什么？

Token 并不完全等于一个汉字或者一个英文单词。

模型会先通过 Tokenizer 将文字拆解成 Token ID。

为什么使用 Token？

神经网络不能直接理解文字，因此文本必须先转换成数字。

Token 与成本

大多数模型 API 会统计：

• Input Tokens
• Output Tokens
• Cached Tokens

因此在设计 AI 应用时，上下文长度不仅影响模型效果，也会直接影响成本和响应速度。