图
附录 B · AI 学习路线图 + 公式速查 + 研究者工具箱
Appendix B · 毕业礼物:一张地图、一张公式表、一份装备清单
读到这里,你已经从数组走到了 Agent。这份附录是毕业装备包:接下来按什么顺序练、关键公式在哪查、工具链用什么。
到这里,你已经从数组走到了 Agent。这一附录是毕业装备包:路线图、公式速查、工具清单。为什么需要?学完不代表练完,接下来按什么顺序动手、公式去哪查,得有个清单。读完这一站,整条通关路就闭环了。
本模块要学什么(按这个顺序学)
学习路线图
→
公式速查表
→
工具链清单
整站收官:把前面模块一~模块十串成一条动手路线。
B.1 AI 学习路线图
Roadmap · 从零基础到能训大模型的完整路径| 阶段 | 主题 | 核心知识点 | 里程碑 |
|---|---|---|---|
| 1 | 数据结构 | 数组/链表/栈/队列/哈希/树/堆/图/并查集 | 能手撕 LeetCode 中等题 |
| 2 | 数学基础 | 线代(矩阵乘法/特征值)、微积分(偏导/链式法则)、概率(贝叶斯/分布)、最优化 | 能手推两层网络反传 |
| 3 | 经典算法 | 排序/二分/递归/分治/DP/贪心/图算法 | 能讲清 DP 状态转移 |
| 4 | 机器学习 | 线性/逻辑回归、决策树、朴素贝叶斯、kNN、SVM、集成、聚类、降维 | sklearn 跑通 Kaggle 表格赛 |
| 5 | 深度学习 | MLP/CNN/RNN、损失/优化器/正则化/初始化/BN | PyTorch 训出 MNIST 99% |
| 6 | Transformer | 自注意力/多头/位置编码/BERT/GPT/位置编码/RoPE | 能从头手写一个 nanoGPT |
| 7 | 大模型 | 预训练/SFT/RLHF/DPO/量化/QLoRA/KV Cache/Scaling Law | 用 QLoRA 微调一个 7B 模型 |
| 8 | Agent/RAG | ReAct/Function Calling/多Agent/RAG/MCP/部署 | 搭一个能查文档的 RAG 助手 |
记
路线建议
别跳级。直接学 Transformer 不补数学,三个月后还是只会调包。每阶段配一个动手项目。跑通比看懂重要,看懂比背下来重要。
B.2 核心公式速查表
Cheat Sheet · 忘了就来翻这一页| 名称 | 公式 | 出处 |
|---|---|---|
| 线性回归 MSE | L = (1/n)∑(yi−ŷi)² | 4.3 |
| Sigmoid | σ(z) = 1/(1+e−z) | 4.4 |
| 交叉熵(多类) | L = −∑c yc log ŷc | 6.1 |
| Softmax | softmax(s)i = exp(si)/∑jexp(sj) | 4.9/7.1 |
| 自注意力 | Attention(Q,K,V) = softmax(QKT/√dk)V | 4.9/7.1 |
| SGD | θ ← θ − η·g | 6.2 |
| Momentum | v ← βv + g;θ ← θ − ηv | 6.2 |
| Adam | m←β₁m+(1−β₁)g;v←β₂v+(1−β₂)g²;θ←θ−η·m̂/(√v̂+ε) | 6.2 |
| ReLU | f(x) = max(0, x) | 4.6 |
| Xavier 初始化 | W ~ U(−√(6/(nin+nout)), √(6/(nin+nout))) | 6.4 |
| He 初始化 | W ~ N(0, √(2/nin)) | 6.4 |
| 正弦位置编码 | PE(pos,2i)=sin(pos/100002i/d);PE(pos,2i+1)=cos(...) | 7.2 |
| SVM 间隔 | min ½‖w‖² s.t. yi(w·xi+b) ≥ 1 | 5.3 |
| RBF 核 | K(x,x') = exp(−γ‖x−x'‖²) | 5.3 |
| Q-Learning | Q(s,a) ← Q(s,a) + α[r + γ maxa'Q(s',a') − Q(s,a)] | 9.2 |
| PPO clip | L = E[min(rtAt, clip(rt,1−ε,1+ε)At)] | 9.3 |
| Precision | P = TP/(TP+FP) | 10.1 |
| Recall | R = TP/(TP+FN) | 10.1 |
| F1 | F1 = 2PR/(P+R) | 10.1 |
| 困惑度 | PPL = exp(−(1/N)∑log p(xi)) | 10.1 |
B.3 AI 研究者工具箱
Toolbox · 开源世界的标配装备| 类别 | 推荐 | 用途 |
|---|---|---|
| 深度学习框架 | PyTorch(首选)、JAX、TensorFlow | 论文实验几乎全用 PyTorch |
| ML 传统 | scikit-learn、XGBoost、LightGBM | 表格数据、经典算法 baseline |
| 大模型训练 | Hugging Face Transformers、DeepSpeed、Megatron-LM | 加载/训练/微调 LLM |
| 大模型推理 | vLLM、llama.cpp、Ollama、TensorRT-LLM | 服务器高吞吐 / 本地端侧 |
| RAG 生态 | LangChain/LangGraph、LlamaIndex、FAISS/Milvus/Chroma | 检索+生成管线 |
| Agent 框架 | AutoGen、CrewAI、MetaGPT、MCP SDK | 多 Agent 协作 |
| 经典数据集 | MNIST/CIFAR-10(图像)、WikiText(文本)、SQuAD(问答)、ImageNet(大规模) | 入门 benchmark |
| 评估工具 | LM Eval Harness、mt-bench、MMLU、BLEU/ROUGE 脚本 | 量化模型能力 |
| 可视化 | TensorBoard、Weights & Biases、Matplotlib | 训练曲线、实验追踪 |
| 数学计算 | NumPy、SciPy、SymPy(符号推导) | 手推公式、数值实验 |
毕业寄语
从数组到 Agent,这条路走通了,你已经超过 90% 只会调包的人。接下来就是动手:跑一个 nanoGPT,微调一个 7B,搭一个 RAG。纸上得来终觉浅,绝知此事要躬行。祝炼丹愉快。
费曼学习法:讲给别人听
① 用自己的话解释:用 30 秒向朋友说清"从数组到大模型"这一路到底在学什么。
② 举个反例 / 生活例子:反例——只看不动手会怎样?(提示:调包侠 vs 能改造的人)
③ 哪里还说不清:你的下一步动手计划是什么?挑一个:跑 nanoGPT、微调 7B、搭 RAG。