SML——最小的语言模型
2026 年 3–5 月
问题
老师 → 验证者 → 学生
我们造了什么
一个大型老师写出候选数据；验证者决定是否准入；一个小型学生从零开始，只在被准入的内容上训练。这不是蒸馏：未经验证者准入的东西，一样也到不了学生那里。
它证明了什么
TinkyBrain v6：2,550 万参数，24 MB，在 2017 年的 Kindle Fire 上每次回答约 2.9 秒。
它给大脑添了什么
- 事实
它对国防意味着什么
只有被准入的知识才能到达学生。这正是国防系统需要的习惯：未经验证者放行的东西，一样也进不了大脑。