翻开一篇旧笔记
从数据到部署：在 Mac 上规划小模型全链路训练
以约 30M 模型建立从数据、分词、随机初始化预训练到 SFT、DPO、评测和部署的完整闭环，再依据实测逐步扩展至约 100M 与 0.5B。
继续读本质课题
何谓智能？
从物理具身、语言表征，到因果决策与递归自我重构。
体系化专著 · LIVING MONOGRAPHS
在线交互书稿与专著
最新文章
全部文章最近写下
只靠风，一只走兽最少要多大的风？——方法、证据分级与负面结果报告
两个独立求解器（MuJoCo 与 K2）、E0–E3 证据分级、起步风速随尺度的 30 格实验，以及一系列诚实的负面结果：销轴摩擦如何把起步风速改变 2.59 倍、为什么运动学粗筛不能用来排序、为什么稳健优化的胜负会翻面。
继续读最近写下
怎样积累可复用的实验结论：版本、失败记录与下一轮决策
大模型训练研究笔记第七卷之六：把数据、运行、评测与结论连起来，区分失败和反证，用可比较的记录决定下一步实验。
继续读交互实验室与专题长卷
可以动手操作的机制舞台
从 Strandbeest 风吹动力兽连杆机构、Transformer 五幕前向传播，到小模型全链路训练、蒙特卡洛树搜索与因果效应估计。
进入交互实验室 (/lab/)一张桌、一盘棋，还有几个想继续追问的问题。
进来随意看看十月把手头的预训练数据笔记整理成六篇，从语料地图、清洗、质量筛选、去重，到混合采样与可追溯构建，主要在想训练文本是怎样被一步步决定下来的。小模型全链路、搜索与因果的旧笔记也在重读，补上当时没写清的上下文。
有些问题适合写成长文或汇入专著，有些暂时只是一段笔记。先把它们留下，再慢慢连接起来。