从数据到部署：在 Mac 上规划小模型全链路训练
以约 30M 模型建立从数据、分词、随机初始化预训练到 SFT、DPO、评测和部署的完整闭环，再依据实测逐步扩展至约 100M 与 0.5B。
RSS 订阅
RSS 订阅
通过 RSS 订阅，第一时间获取最新文章和动态
RSS 链接
复制链接到你的 RSS 阅读器
https://meiluosi.github.io/rss.xml最新文章
只靠风，一只走兽最少要多大的风？——方法、证据分级与负面结果报告
两个独立求解器（MuJoCo 与 K2）、E0–E3 证据分级、起步风速随尺度的 30 格实验，以及一系列诚实的负面结果：销轴摩擦如何把起步风速改变 2.59 倍、为什么运动学粗筛不能用来排序、为什么稳健优化的胜负会翻面。
怎样积累可复用的实验结论：版本、失败记录与下一轮决策
大模型训练研究笔记第七卷之六：把数据、运行、评测与结论连起来，区分失败和反证，用可比较的记录决定下一步实验。
模型交付后为什么表现变了：模板、量化与行为回归
大模型训练研究笔记第七卷之五：从同一条请求出发，检查输入编码、权重转换、生成设置和结果解析，用分层回归定位交付差异。
为什么换一套训练环境结果会变：数值精度、数据顺序与断点恢复
大模型训练研究笔记第七卷之四：区分逐位一致与结论复现，用动量更新检查权重恢复的局限，并梳理精度、并行与数据游标。
怎样核算训练成本：token、计算量、耗时与峰值显存
大模型训练研究笔记第七卷之三：分清有效输入与监督目标、近似 FLOPs 与实测耗时、模型权重与训练显存，并核算完整实验成本。
什么是 RSS？
RSS（Really Simple Syndication）是一种用于发布经常更新内容的标准格式。通过 RSS，你可以：
- 及时获取网站最新内容，无需手动访问
- 在一个地方管理多个网站的订阅
- 避免错过重要更新和文章
- 享受无广告的纯净阅读体验
推荐使用 Feedly、Inoreader 或其他 RSS 阅读器来订阅本站。