楼层: 首页/ 算法与AI/ 附录 B · AI 学习路线图 + 公式速查 + 研究者工具箱
图

附录 B · AI 学习路线图 + 公式速查 + 研究者工具箱

Appendix B · 毕业礼物:一张地图、一张公式表、一份装备清单

读到这里,你已经从数组走到了 Agent。这份附录是毕业装备包:接下来按什么顺序练、关键公式在哪查、工具链用什么。

到这里,你已经从数组走到了 Agent。这一附录是毕业装备包:路线图、公式速查、工具清单。为什么需要?学完不代表练完,接下来按什么顺序动手、公式去哪查,得有个清单。读完这一站,整条通关路就闭环了。

本模块要学什么(按这个顺序学)
学习路线图 → 公式速查表 → 工具链清单

B.1 AI 学习路线图

Roadmap · 从零基础到能训大模型的完整路径
表 B-1 八阶段学习路线
阶段主题核心知识点里程碑
1数据结构数组/链表/栈/队列/哈希/树/堆/图/并查集能手撕 LeetCode 中等题
2数学基础线代(矩阵乘法/特征值)、微积分(偏导/链式法则)、概率(贝叶斯/分布)、最优化能手推两层网络反传
3经典算法排序/二分/递归/分治/DP/贪心/图算法能讲清 DP 状态转移
4机器学习线性/逻辑回归、决策树、朴素贝叶斯、kNN、SVM、集成、聚类、降维sklearn 跑通 Kaggle 表格赛
5深度学习MLP/CNN/RNN、损失/优化器/正则化/初始化/BNPyTorch 训出 MNIST 99%
6Transformer自注意力/多头/位置编码/BERT/GPT/位置编码/RoPE能从头手写一个 nanoGPT
7大模型预训练/SFT/RLHF/DPO/量化/QLoRA/KV Cache/Scaling Law用 QLoRA 微调一个 7B 模型
8Agent/RAGReAct/Function Calling/多Agent/RAG/MCP/部署搭一个能查文档的 RAG 助手
记
路线建议

别跳级。直接学 Transformer 不补数学,三个月后还是只会调包。每阶段配一个动手项目。跑通比看懂重要,看懂比背下来重要。

B.2 核心公式速查表

Cheat Sheet · 忘了就来翻这一页
表 B-2 AI 核心公式速查
名称公式出处
线性回归 MSEL = (1/n)∑(yi−ŷi)²4.3
Sigmoidσ(z) = 1/(1+e−z)4.4
交叉熵(多类)L = −∑c yc log ŷc6.1
Softmaxsoftmax(s)i = exp(si)/∑jexp(sj)4.9/7.1
自注意力Attention(Q,K,V) = softmax(QKT/√dk)V4.9/7.1
SGDθ ← θ − η·g6.2
Momentumv ← βv + g;θ ← θ − ηv6.2
Adamm←β₁m+(1−β₁)g;v←β₂v+(1−β₂)g²;θ←θ−η·m̂/(√v̂+ε)6.2
ReLUf(x) = max(0, x)4.6
Xavier 初始化W ~ U(−√(6/(nin+nout)), √(6/(nin+nout)))6.4
He 初始化W ~ N(0, √(2/nin))6.4
正弦位置编码PE(pos,2i)=sin(pos/100002i/d);PE(pos,2i+1)=cos(...)7.2
SVM 间隔min ½‖w‖² s.t. yi(w·xi+b) ≥ 15.3
RBF 核K(x,x') = exp(−γ‖x−x'‖²)5.3
Q-LearningQ(s,a) ← Q(s,a) + α[r + γ maxa'Q(s',a') − Q(s,a)]9.2
PPO clipL = E[min(rtAt, clip(rt,1−ε,1+ε)At)]9.3
PrecisionP = TP/(TP+FP)10.1
RecallR = TP/(TP+FN)10.1
F1F1 = 2PR/(P+R)10.1
困惑度PPL = exp(−(1/N)∑log p(xi))10.1

B.3 AI 研究者工具箱

Toolbox · 开源世界的标配装备
表 B-3 常用框架 / 数据集 / 评估工具
类别推荐用途
深度学习框架PyTorch(首选)、JAX、TensorFlow论文实验几乎全用 PyTorch
ML 传统scikit-learn、XGBoost、LightGBM表格数据、经典算法 baseline
大模型训练Hugging Face Transformers、DeepSpeed、Megatron-LM加载/训练/微调 LLM
大模型推理vLLM、llama.cpp、Ollama、TensorRT-LLM服务器高吞吐 / 本地端侧
RAG 生态LangChain/LangGraph、LlamaIndex、FAISS/Milvus/Chroma检索+生成管线
Agent 框架AutoGen、CrewAI、MetaGPT、MCP SDK多 Agent 协作
经典数据集MNIST/CIFAR-10(图像)、WikiText(文本)、SQuAD(问答)、ImageNet(大规模)入门 benchmark
评估工具LM Eval Harness、mt-bench、MMLU、BLEU/ROUGE 脚本量化模型能力
可视化TensorBoard、Weights & Biases、Matplotlib训练曲线、实验追踪
数学计算NumPy、SciPy、SymPy(符号推导)手推公式、数值实验
毕业寄语

从数组到 Agent,这条路走通了,你已经超过 90% 只会调包的人。接下来就是动手:跑一个 nanoGPT,微调一个 7B,搭一个 RAG。纸上得来终觉浅,绝知此事要躬行。祝炼丹愉快。

费曼学习法:讲给别人听

① 用自己的话解释:用 30 秒向朋友说清"从数组到大模型"这一路到底在学什么。

② 举个反例 / 生活例子:反例——只看不动手会怎样?(提示:调包侠 vs 能改造的人)

③ 哪里还说不清:你的下一步动手计划是什么?挑一个:跑 nanoGPT、微调 7B、搭 RAG。