技术栈学院 · Rust + AI
Python 是 AI 研究的母语，但生产部署是另一回事。解释器慢、GIL 卡、依赖乱、包体大——把模型跑在 Python 上做生产服务，就像开着改装车上高速。Rust 就是来收拾残局的：candle 跑大模型、ort 跑多模态、qdrant 存向量、Tauri 打包桌面端，全链路 Rust，单文件二进制，数据不出本地。这一页按 candle 0.11 / ort 2.x / tch-rs 0.19 / polars 1.x / qdrant-client 1.x / Tauri 2.x 的现代稳定版，讲完从"跑模型"到"做产品"的完整路径。
R
第 1 节 · Rust 在 AI 领域的定位与分工
Why Rust for AI · Python Trains, Rust Serves
Why Rust for AI · Python Trains, Rust Serves
进入本节 →
机
第 2 节 · 机器学习框架：candle / ort / tch-rs
Inference Frameworks · candle, ort, tch-rs
Inference Frameworks · candle, ort, tch-rs
进入本节 →
数
第 3 节 · 数据处理：ndarray 与 polars
ndarray & polars · NumPy & Pandas in Rust
ndarray & polars · NumPy & Pandas in Rust
进入本节 →
向
第 4 节 · 向量数据库与 RAG
Qdrant & RAG · 让大模型开卷考试
Qdrant & RAG · 让大模型开卷考试
进入本节 →
L
第 5 节 · LLM 客户端与 Function Calling
OpenAI Compatible API, Streaming, Tool Use
OpenAI Compatible API, Streaming, Tool Use
进入本节 →
T
第 6 节 · Tauri 2.0 跨端开发
Tauri 2.0 · Rust Backend + Web Frontend
Tauri 2.0 · Rust Backend + Web Frontend
进入本节 →
A
第 7 节 · Agent 系统平台开发
Agent Platform · 有手有脑有记忆的 AI 员工
Agent Platform · 有手有脑有记忆的 AI 员工
进入本节 →
R
第 8 节 · Rust + AI 项目实战
Project Showcase
Project Showcase
进入本节 →
性
第 9 节 · 性能优化与问题排查
Performance & Debugging
Performance & Debugging
进入本节 →
学
第 10 节 · 学习路线与面试重点
Roadmap & Interview
Roadmap & Interview
进入本节 →
O
第 11 节 · ONNX Runtime 推理：ort crate 从加载到上线
ONNX Runtime in Rust · the ort crate
ONNX Runtime in Rust · the ort crate
进入本节 →
p
第 12 节 · pyo3 双向互操作：把热点给 Rust，把生态留给 Python
pyo3 · Bidirectional Rust & Python
pyo3 · Bidirectional Rust & Python
进入本节 →
T
第 13 节 · Tokenizer 与推理服务化：从 .onnx 到 /predict
Tokenizers & Model Serving
Tokenizers & Model Serving
进入本节 →