DeepSeek-R1蒸馏模型性能实测

DeepSeek-R1蒸馏模型在不同版本下均展现出了出色的推理速度。以版本r1:1.5b为例，其推理速度达到了350 tokens/s，这一速度在同类模型中处于领先地位。

此外，DeepSeek-R1蒸馏模型在其他版本中也同样表现出色。无论是r1:7b版本还是r1:1.67b版本，都能够在保证推理速度的同时，充分利用GPU资源，实现高效的模型推理。这一性能表现无疑为AI领域注入了新的活力，推动了AI技术的进一步发展。