无限的 AI 推理能力

Kamino Grando 服务器：六块4090显卡带来的强大推理能力

Kamino Grando 服务器是一款拥有六块4090显卡的强大推理机器。由于4090显卡尺寸较大，Kamino采用水冷系统来保证散热，并配备四个电源，总功率达到6千瓦。尽管4090不是专门为服务器设计的显卡，但其性价比极高，成为Kamino Grando服务器的最佳选择。

该服务器拥有强大的推理能力，价格却远低于单个H100显卡。虽然一些人可能会建议购买更昂贵的超级微型服务器，但对于大多数用户而言，Kamino Grando服务器在推理性能和价格方面提供了最佳平衡。

作者使用该服务器成功运行了Quinn 72模型，这是一个大型语言模型，其性能接近GPT。该模型的规模太大，即使在半精度模式下也无法在一块H100显卡上运行，但六块4090显卡足以满足其需求。

总的来说，Kamino Grando服务器是一款性价比极高的推理机器，其六块4090显卡提供了强大的计算能力，适合各种推理任务，特别是对于需要运行大型模型的用户而言。

测试和体验 Comino Grando 服务器，配备 6 块 RTX 4090 显卡，来自 Comino (https://www.comino.com/)从零开始的神经网络书籍：https://nnfs.io