主题
附录一:大模型技术术语表
宗旨: 揭开技术黑话的面纱,回归计算机科学的本质。
1. 基本理论(认知层)
| 名词 | 通俗解释(白话版) |
|---|---|
| AGI | 通用人工智能。不再是只会下棋或认猫,而是像人一样能干所有脑力活的 AI。 |
| AIGC | 生成式 AI。核心在于“生”,AI 不再只是做判断题(分类),而是做简答题(创作内容)。 |
| LLM | 大语言模型。本质上是一个“超级成语接龙”高手,通过概率预测下一个字。 |
| Transformer | 大模型的“发动机”架构。它最大的贡献是发明了“注意力机制”,让模型能看懂上下文的长程联系。 |
| GPT / BERT | 模型流派。GPT 擅长从左往右写作文(生成),BERT 擅长做完形填空(理解)。目前 GPT 赢了。 |
| 深度学习 | 堆叠神经元。通过多层非线性计算,让计算机能模拟极其复杂的逻辑函数。 |
| 强化学习 | 训狗大法。AI 做对了给奖励(高分),做错了给惩罚(低分),让它在试错中进化。 |
2. 模型训练与数学本质(底层层)
| 名词 | 通俗解释(白话版) |
|---|---|
| 张量 (Tensor) | 多维数组。1维是向量,2维是矩阵,3维及以上就是张量。模型的所有知识都存这些数里。 |
| 注意力层/头 | 聚焦镜。让模型在读“他”这个字时,眼睛盯着前面提到的“张三”,而不是盯着“桌子”。 |
| 反向传播 | 找锅与纠偏。计算结果错了,往回找是哪一层神经元的参数该背锅,然后改掉它。 |
| 梯度/优化器 | 下山的方向与步法。梯度是下山最快的坡度,优化器(如 Adam)是决定怎么走才不崴脚。 |
| 损失函数 | 打分表。用来衡量模型输出的结果离标准答案差得有多远。 |
| 激活值/算子 | 神经元状态与运算符号。算子就是加减乘除在硬件里的具体实现。 |
| 学习率 (LR) | 步子大小。太大会跳过最优解,太小会走到天荒地老也走不到头。 |
| FP32 / BF16 | 精度(刻度长度)。位率越高越准,但越费显存。目前主流训练用 BF16 以换取速度。 |
| MoE (混合专家) | 分科治理。把模型拆成很多“小专家”,问数学题只激活数学专家,省电又聪明。 |
3. 计算优化(工程层)
| 名词 | 通俗解释(白话版) |
|---|---|
| 图静态优化 | 编译预处理。在正式跑计算前,把能合在一起的步骤合了,省得反复倒手。 |
| 算子融合 | 合并同类项。把“加法”和“乘法”合成一个“乘加”指令,减少内存读写次数。 |
| ONNX | 模型“通用版格式”。不管你是用 PyTorch 还是 JAX 练的,转成 ONNX 就能在各种硬件上跑。 |
4. 主流模型与生态(产品层)
| 名词 | 归类 | 通俗解释 |
|---|---|---|
| DeepSeek / Qwen | 国产之光(开源为主) | 目前国产最强的模型系列,性价比极高,且适合私有化部署。 |
| Llama | 开源标杆 | Meta 发布的模型,由于它开源,全球才有了大模型的技术大爆发。 |
| GPT-4 / Claude | 闭源双雄 | 目前最聪明的商业模型,只能调 API 访问,不能下载模型文件。 |
| Gemini | 谷歌全家桶 | 谷歌的多模态大模型,主打原生支持音视频理解。 |
| Hugging Face | AI 版 GitHub | 全球最大的大模型、数据集存储和交流社区。 |
| Modelscope | 魔搭社区 | 阿里发起的国产模型仓库,对国内下载环境更友好。 |
| Ollama | 模型启动器 | 让你在笔记本上“一键运行”开源模型的黑科技工具。 |
5. 能力增强与微调(增值层)
| 名词 | 通俗解释(白话版) |
|---|---|
| RAG | 给模型配个“搜索引擎”。模型不知道的知识,去本地文档或网上查了再告诉它。 |
| PEFT (LoRA) | 贴“膏药”式微调。不改大模型本体,只在旁边练一点点参数,省钱省力。 |
| SFT (监督微调) | 手把手教做人。给模型一堆“问题-答案”对,让它学会按人的指令说话。 |
| RLHF | 基于人类反馈的强化学习。让人给模型的回答打分,让它变得更有礼貌、更懂人心。 |
| DPO / KTO | 对齐算法(简易版 RLHF)。不需要复杂的打分模型,直接对比好坏样本让模型学习。 |
| Function Call | 模型调插件。模型发现要算数,自动生成一段调计算器的代码,而不是自己硬算。 |
| 召回 / 重排 | 搜索二步走。先从几百万文档捞出 100 个(召回),再仔细排个序选出前 5 个(重排)。 |
| 向量数据库 | 语义数据库。把文字变成坐标,通过“算距离”来找意思最接近的文档。 |
6. 智能体 (Agent)(应用层)
| 名词 | 通俗解释(白话版) |
|---|---|
| Agent | 智能体。大模型加上了“大脑(规划)”、“手脚(工具)”和“记忆”。 |
| Multi-Agent | 多智能体协作。让一个 Agent 当产品经理,一个当程序员,自己内部吵架把活干了。 |
| MCP | 模型上下文协议。由 Anthropic 发起的标准,让不同 Agent 和工具之间能说“同一种方言”。 |
7. 推理引擎与服务(交付层)
| 名词 | 通俗解释(白话版) |
|---|---|
| vLLM / TGI | 推理“变速箱”。通过管理内存(PagedAttention)让模型吞吐量提升几十倍。 |
| Token | 计费单位。大约等于 0.75 个英文单词或 0.5 个汉字。模型处理的最小信息块。 |
| OpenAI API | 行业准标准。虽然是 OpenAI 定的,但现在全球模型接口都长这个样。 |