2026
-
Token 是推理计算量的精确代理变量;推理成本的三个层次:模型参数的静态显存占用、KV Cache 的动态显存占用、以及显存带宽而非算力是瓶颈;输入可并行而输出不可,决定了两者的定价差异。
-
Obsidian 用文件路径写链接,Astro 需要 URL 路由——同一份 Markdown 无法同时满足两者。本文详解冲突根源及 remark 插件的实现原理。
-
Temperature 调整不同词的概率差距,Top-p 控制入围门槛,去除长尾词。两者都是值越大输出结果越多样,值越小越输出结果稳定(如同不同温度下的分子运动)。
-
Token(词元)是大语言模型(LLM)处理和理解文本的最小基本单位, Tokenizer 负责将人类的自然语言文本拆分为 Token,并将其转化为对应的数字编号。