只为分享

带宽对高性能计算是一个永恒的话题，本质上，带宽即数据交换的速率，单位时间的传输数据越多，带宽就越高，但对高性能计算来说，对高带宽的渴求永无止境，好比宏观现实世界中的车道，90年代设计的国道，对于低速的自行车和少量高速的货车来说，足以应付，但那个时代永远不会预料到，在21世纪的今天，高速的私家车会成为车道上的主要流量，因此，当时的设计已经遇到了车流量交换速率的瓶颈，在此基础上进行拓宽？面积受限，国道周围已经高楼大厦，架构已经成型，拓展空间已然被压缩。

目前应用比较多的是VLLM 和DeepSpeed， 关于二者的比较：

最近在关注美股，围观行业大佬分析NV 供应链体系，注意到一家公司VRT， 这家公司是NV 的独家液冷方案提供商。最近VRT 的股价青云直上，一家做液冷方案的公司护城河到底有多深，散热方案在整个行业中处于什么位置，这些问题是我想了解的。NV 的技术路线图从A100/H100 到最新GB200 的体系，TDP 也从300~700W 跃升到1000W 的门槛，以往的风冷方案在散热效率上显得非常力不从心。

第一个AI 冬天在所有人对AI 充满期待时，1970 年AI 自身遇到了它难以逾越的瓶颈：有限的计算资源自然语言的处理在当时由于计算机内存的限制，只能处理20个单词问题的复杂度难以驾驭常识的推理几乎不可能完成莫拉维茨悖论（Moravec’s paradox）分帧和量化问题1970s 年代，资助AI 研究的主要机构第二个AI 冬天......

mac operloop handlingdata handlingsynopsys arc em9d- risc core with dsp isa extensionxy memory and address generationHimaxembarc.orghimax.com/tw/products/

Training ModelLinearGradient Descent(GD)batch GDMini-batch GDStochastic GDPolynomial Regression

epochsThe next argument specifies how many times our entire training set will be run through the network during training. The more epochs, the more training will occur. You might think that the more ...

error1: make: arm-linux-gnueabihf-: Command not foundset -eSCRIPT_DIR="$(cd "$(dirname "${BASH_SOURCE[0]}")" && pwd)"cd "$SCRIPT_DIR/../../.."CC_PRE

Mnist以Mnist为例，在定义好模型的结构以后，模型训练的代码：init=tf.global_variables_initializer()saver=tf.train.Saver()#execute phasefrom tensorflow.examples.tutorials.mnist import input_datamnist=input_data.read_data_...

人工智能的历史起于远古时代，夹杂者神话故事和各种流言，正如帕梅拉（ Pamela McCorduck）所说，远古人类创造AI 的初心是为了创造一个人造的上帝。比如希腊的金色机器人 火神赫菲斯托斯 和 Pygmalion’s Galatea。 在公元前第一个千禧年，中国，印度和希腊哲学家都提出了一些推理的研究理论，比如 亚里士多德（Aristotle）进行了演绎推理三段论的完整分析，欧几里得（......