0%
第 1 章实验
如何用几个关键数字，估算一次模型执行？
实验
权重约 70.00 GB，在 80 GB 内（预留 5 GB）。
20.90 ms
带宽墙
下限取两者较大者。较短的一根无论再缩短，只要没超过另一根，总时间就不动。
吞吐
47.9 token/s
运算量
140.00 GFLOPs