Skip to content

附录一:大模型技术术语表 ​

宗旨: 揭开技术黑话的面纱,回归计算机科学的本质。

1. 基本理论(认知层) ​

名词通俗解释(白话版)
AGI通用人工智能。不再是只会下棋或认猫,而是像人一样能干所有脑力活的 AI。
AIGC生成式 AI。核心在于“生”,AI 不再只是做判断题(分类),而是做简答题(创作内容)。
LLM大语言模型。本质上是一个“超级成语接龙”高手,通过概率预测下一个字。
Transformer大模型的“发动机”架构。它最大的贡献是发明了“注意力机制”,让模型能看懂上下文的长程联系。
GPT / BERT模型流派。GPT 擅长从左往右写作文(生成),BERT 擅长做完形填空(理解)。目前 GPT 赢了。
深度学习堆叠神经元。通过多层非线性计算,让计算机能模拟极其复杂的逻辑函数。
强化学习训狗大法。AI 做对了给奖励(高分),做错了给惩罚(低分),让它在试错中进化。

2. 模型训练与数学本质(底层层) ​

名词通俗解释(白话版)
张量 (Tensor)多维数组。1维是向量,2维是矩阵,3维及以上就是张量。模型的所有知识都存这些数里。
注意力层/头聚焦镜。让模型在读“他”这个字时,眼睛盯着前面提到的“张三”,而不是盯着“桌子”。
反向传播找锅与纠偏。计算结果错了,往回找是哪一层神经元的参数该背锅,然后改掉它。
梯度/优化器下山的方向与步法。梯度是下山最快的坡度,优化器(如 Adam)是决定怎么走才不崴脚。
损失函数打分表。用来衡量模型输出的结果离标准答案差得有多远。
激活值/算子神经元状态与运算符号。算子就是加减乘除在硬件里的具体实现。
学习率 (LR)步子大小。太大会跳过最优解,太小会走到天荒地老也走不到头。
FP32 / BF16精度(刻度长度)。位率越高越准,但越费显存。目前主流训练用 BF16 以换取速度。
MoE (混合专家)分科治理。把模型拆成很多“小专家”,问数学题只激活数学专家,省电又聪明。

3. 计算优化(工程层) ​

名词通俗解释(白话版)
图静态优化编译预处理。在正式跑计算前,把能合在一起的步骤合了,省得反复倒手。
算子融合合并同类项。把“加法”和“乘法”合成一个“乘加”指令,减少内存读写次数。
ONNX模型“通用版格式”。不管你是用 PyTorch 还是 JAX 练的,转成 ONNX 就能在各种硬件上跑。

4. 主流模型与生态(产品层) ​

名词归类通俗解释
DeepSeek / Qwen国产之光(开源为主)目前国产最强的模型系列,性价比极高,且适合私有化部署。
Llama开源标杆Meta 发布的模型,由于它开源,全球才有了大模型的技术大爆发。
GPT-4 / Claude闭源双雄目前最聪明的商业模型,只能调 API 访问,不能下载模型文件。
Gemini谷歌全家桶谷歌的多模态大模型,主打原生支持音视频理解。
Hugging FaceAI 版 GitHub全球最大的大模型、数据集存储和交流社区。
Modelscope魔搭社区阿里发起的国产模型仓库,对国内下载环境更友好。
Ollama模型启动器让你在笔记本上“一键运行”开源模型的黑科技工具。

5. 能力增强与微调(增值层) ​

名词通俗解释(白话版)
RAG给模型配个“搜索引擎”。模型不知道的知识,去本地文档或网上查了再告诉它。
PEFT (LoRA)贴“膏药”式微调。不改大模型本体,只在旁边练一点点参数,省钱省力。
SFT (监督微调)手把手教做人。给模型一堆“问题-答案”对,让它学会按人的指令说话。
RLHF基于人类反馈的强化学习。让人给模型的回答打分,让它变得更有礼貌、更懂人心。
DPO / KTO对齐算法(简易版 RLHF)。不需要复杂的打分模型,直接对比好坏样本让模型学习。
Function Call模型调插件。模型发现要算数,自动生成一段调计算器的代码,而不是自己硬算。
召回 / 重排搜索二步走。先从几百万文档捞出 100 个(召回),再仔细排个序选出前 5 个(重排)。
向量数据库语义数据库。把文字变成坐标,通过“算距离”来找意思最接近的文档。

6. 智能体 (Agent)(应用层) ​

名词通俗解释(白话版)
Agent智能体。大模型加上了“大脑(规划)”、“手脚(工具)”和“记忆”。
Multi-Agent多智能体协作。让一个 Agent 当产品经理,一个当程序员,自己内部吵架把活干了。
MCP模型上下文协议。由 Anthropic 发起的标准,让不同 Agent 和工具之间能说“同一种方言”。

7. 推理引擎与服务(交付层) ​

名词通俗解释(白话版)
vLLM / TGI推理“变速箱”。通过管理内存(PagedAttention)让模型吞吐量提升几十倍。
Token计费单位。大约等于 0.75 个英文单词或 0.5 个汉字。模型处理的最小信息块。
OpenAI API行业准标准。虽然是 OpenAI 定的,但现在全球模型接口都长这个样。