练完一遍了？ 用英文写下回答，粘贴到免费自查工具打分（工具按英文要点评分）
考察点
是否把 scaling laws 当作规划工具而不是冷知识：它如何关联模型规模、数据和算力，以及推理成本如何让选择偏离计算最优点。
评分要点
- 核心发现：随着参数量、训练 token 和算力增加，loss 平滑下降，大致呈幂律，可以先做小实验拟合曲线，再预估大规模训练的结果。
- 计算最优结论（2022 年 Chinchilla 论文）：固定训练预算时，参数和 token 要一起增长，约每个参数 20 个 token；这说明此前不少大模型训练不足。
- 引入推理成本：被调用海量次数的模型越小越便宜，所以团队会用远超计算最优的 token 数训练更小的模型。
- 说明局限：更低的 loss 不会一一对应到每个下游任务，仍要在关心的任务上评估。
常见扣分点
忽略推理成本，只按训练成本选模型规模。
参考回答
Scaling laws 指出，随着参数、数据和算力增加，预训练 loss 会以接近幂律的方式可预测地下降。可预测性正是它的价值：你可以先跑小实验、拟合曲线，在花掉预算前估计更大规模训练能达到的水平。
2022 年 Chinchilla 工作给出的计算最优结论是：固定训练预算时，参数和训练 token 应该一起扩大，大约每个参数 20 个 token。所以一个 100 亿参数的模型大约需要 2000 亿 token。此前有些模型参数很多，但 token 太少。
实际决策不只看训练成本。如果模型要服务海量请求，每个参数在每次请求时都要花钱，所以常常值得把一个更小的模型训练到远超计算最优的 token 数。训练多花一次钱，推理一直省钱。
常见追问
为什么要刻意训练到超过计算最优点？ 因为在模型的整个生命周期里服务成本占大头；用更多 token 训练的小模型，在质量相近时每次请求更便宜。
中文手册想要完整的中文备考方法？
《如何从0到1准备AI Engineer面试》：20 章、5 套答题框架（FLAME、SPARK、FORGE、RISE、EMBER）、100 道题库和 8 周备考计划。
获取中文手册 优惠码 EARLYBF 立减 40%，截至太平洋时间 11 月 3 日 23:59更想读英文版？The 0→1 AI Engineer Interview Playbook，$19.99，Gumroad 英文版。也可以先免费领取 Top 30 题 PDF（英文）。