工程实践与案例档案

这里专门收录从零复现的工程代表作与实验案例(每个案例均包含问题定义、关键指标与开源代码实现)。若你想阅读体系化的长篇研究与理论综述,请前往「书稿与专著」或「智能路线」。

SELECTED ENGINEERING CASE STUDIESIMPLEMENTATIONS · REPRODUCTIONS · BENCHMARKS

代表性工程案例

从本地 1B 语言模型全链路训练、AlphaZero 自我对弈五子棋,到不完全信息博弈 CFR 与因果效应推断。每个案例都始于一个可证伪的工程问题。

预训练 · 后训练模型系统tiny 工程链路已验证 · 30M 待实验

从数据到部署:在 Mac 上规划小模型全链路训练

从数据与分词器出发,以约 30M 模型规划预训练、SFT、DPO、评测与部署,逐步探索更大的模型。

  • Apple M4 / 16 GB 统一内存
  • 数据 → 分词 → 随机初始化预训练 → SFT → DPO → 评测 → 部署
  • 约 30M 起步,约 100M 进阶;0.5B 在资源测量后决定
自我对弈 · 五子棋自我对弈与学习策略价值 · PUCT · 自我对弈

Alpha Zero算法实现五子棋

把策略价值网络、PUCT MCTS、自我对弈和训练回放连接成一个 AlphaZero 风格的学习循环。

  • 文章中的实现范围:PyTorch 策略-价值网络与 PUCT 搜索
  • 包含 replay buffer、自我对弈与训练循环代码
  • 文章建议从 9×9 棋盘、约 200–800 次搜索和八向数据增强开始
因果推断 · 模拟数据因果推断ATE · CATE · Uplift

应用Ylearn框架实现因果推断

用模拟优惠券数据比较处理效应估计方法,并延伸到 uplift modeling、因果图发现与敏感性分析。

  • 文章中的示例由代码生成 5000 条模拟优惠券数据
  • 实现并比较 S/T/X/DR-Learner 的 ATE,并估计 CATE
  • 另含 uplift curve、PC/GES 因果图发现、IPW 与敏感性分析示例
不完全信息博弈 · Kuhn Poker反馈与策略CFR · 后悔匹配 · 策略

应用CFR实现德州扑克对战

从 Kuhn Poker 的递归 CFR 与后悔匹配出发,理解不完全信息博弈中的策略更新。

  • 文章包含 Kuhn Poker 的递归 CFR 与 regret matching Python 实现
  • 代码示例以 pass/bet 两个动作训练 50,000 次迭代
  • 另行讨论德州扑克抽象、CFR+ 与 exploitability/对战胜率评估方式
SYSTEMATIC MONOGRAPHS & INTERACTIVE LABSWHERE CODE MEETS THEORY

搜索

正在载入索引…