AI算力提高，高能耗和难散热问题如何突破？

我爱学大模型 我爱学大模型 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 1.4k累计阅读 1.4k平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄3年
关注
原创 最新推荐文章于 2026-08-27 14:28:44 发布 1.4k 阅读 AI 写同款· GEO 优化 ›
Nature最新黑科技，芯片散热效率提升50倍！ #设备的散热大法##手动改善显卡温度# 人人都用电子设备，也经常会抱怨，手机怎么这么烫，电脑怎么又宕机了，在这背后，往往是过高的温度在捣鬼。 其实，不管是个人还是工业界，电子设备的散热，都是老大难问题，说它是最大的敌人，我觉得也没啥毛病。 尤其是近几年，消费者对产品小型化的追求，使得器件在密度、性能各方面，都面临着更严峻的挑战，要在更小的面积上，实现更高的功率，就意味着更多热量的产生。 同时，放眼工业界，随着人工智能、云计算产业的发展，海量的数据需要处理，而成倍增长的数据中心，带来的高能耗问题，也着 阅读详情

随着AI技术的广泛应用，从智能手机到自动驾驶汽车，从智能家居到工业自动化，AI供电芯片的需求量正呈爆炸式增长。它不仅为AI系统提供稳定的电力供应，确保系统的正常运行，而且还肩负着节能减排、降低能耗的重任。

然而随着算力需求的提升，AI设备的能耗、散热等问题凸显，这无疑给AI供电芯片带来了新的挑战，如何实现高效率、低功耗、持续稳定的供电成为了业界关注的焦点。

能耗“突飞猛进”：算力比拼加速，能耗日益攀升

算力核心设备由传统的CPU向GPU的转移，不仅提升了计算效率，更使得复杂的数据处理和深度学习模型得以实现。然而，高性能往往伴随着高能耗。在追求更快计算速度的同时，GPU的能耗也在不断上升，给数据中心和服务器带来了巨大的能源压力。荷兰数据科学家Alex de Vries在专注能源研究的学术期刊《Joule》上发表的一项研究显示，按照当前趋势，到2027年，整个人工智能行业每年将消耗85至134太瓦时的电力（1太瓦时=10亿千瓦时）。

散热“力不从心”：高性能AI芯片的烫手难题

高性能的AI芯片在运行过程中会产生大量热量，如果不能及时有效地散热，不仅会影响设备的稳定运行，还可能缩短其使用寿命，制约AI算力的进一步增长。未来，单颗高性能AI芯片的热设计功耗将突破1000W，达到了传统风冷散热的极限。因此，各大公司纷纷投入研发，探索更有效的散热解决方案，例如行业巨头们正在推进的液冷技术等。

可靠性“摇摆不定”：大模型训练，AI芯片一损俱损

AI应用对芯片的性能与可靠性要求非常高。为了完成一个大模型的训练任务，通常需要几千张甚至几万张计算卡进行级联，提供充足的算力。如果有一张卡出了问题，那么整个大模型的训练都会受到影响。如何定位到失效的板卡也是非常费时费力的工作，严重影响训练的效率。

MPS AI电源解决方案的四大突破，助力化解上述难题

MPS深耕计算领域多年，从笔记本、台式机到自动计算平台，再到数据中心服务器，与各大平台都有紧密的合作。随着传统数据中心通过集成AI技术来实现智能化升级，MPS也在快速迭代电源方案，为行业和客户提供高品质、可靠的AI电源解决方案，适用于AI 推理卡、训练卡、边缘计算设备、超算服务器等各类应用场景。

在这里插入图片描述
△图1：MPS AI硬件电源解决方案

在这里插入图片描述
△图2：MPS典型AI电源应用

突破一：体量更紧凑、功率密度更高、配电损耗更低

MPS的AI电源方案采用创新设计，体量更紧凑，配电损耗更低，使数据中心在给定机柜范围内的计算能力得以提升。

相比竞争对手的方案，MPS的功率转换技术在主板上占用的空间更小，这样所有处理器能更紧密地结合为一体，在更小的空间内实现更强的计算能力。下图是MPS新型开放式框架电源模块Intelli-Module™的3D概念图，展现了高度集成的数字多相电源模块。

在这里插入图片描述
△图3：高度集成的Intelli-Module™

MPS 专注改善数据中心的功率密度，因为数据中心面临着人工智能等新计算应用的更大功率需求。以创新手段提升功率密度意味着减小配电损耗，从而降低数据中心的总运营成本、单次计算输出的总成本以及碳排放。而机柜数量减少后，数据中心的物理占用空间也能最大限度地缩减。

130A、两相、非隔离式降压电源模块MPC22167-130是MPS Intelli-Module™系列的最新产品，它将 DrMOS、电感和其他无源元件集成到单个封装中，不仅占位面积小，功率密度还提高了2.5 倍。而且，它允许将多相稳压器（VR）放置在更靠近处理器的位置，从而减少了配电网络 (PDN) 的损耗（见图4）。

在这里插入图片描述
△图4： Intelli-Module™ 与 DrMOS 的占板面积比较

多个 MPC22167-130 器件可与第一级电源模块配合使用，以支持端到端的电源解决方案，同时能够满足AI 处理器的高功率要求。下图展示了采用 MPC22167-130 实现的参考设计示例。

在这里插入图片描述
△图5：具有 48V 输入和 0.8V 输出的 2000A OAM 外形规格参考设计

该参考设计可应用于OAM 形态的 AI 处理器，它采用 MPC22167-130 支持 2000A 的最大输出电流 (IOUT)，其中第二级方案的设计采用了MPC22167-130 与 数字16 相控制器MP2891的组合方案。

突破二：电源转换效率更高、顶部散热设计兼容液冷

为了解决高功率密度电源模块中的散热问题，MPS多管齐下：一方面优化内部结构和器件设计，提升电源转换效率，降低功耗，同时减少热量产生，确保设备稳定运行；另一方面，将模块做成顶部散热，方便散热器的设计；不仅如此，器件还能兼容液冷的应用，借助液冷增强服务器散热效果，从而进一步发挥电源的极致性能，使单机柜功率大幅提升。

在这里插入图片描述
△图6：MPS磁芯设计对电源模块效率的影响

突破三：严密的仿真计算、严格的出厂测试

AI芯片批量的一致性和可靠性是非常重要的，没有多年的经验积累和严格的市场检验，是磨砺不出好的AI电源的。MPS在设计阶段，会通过仿真和理论计算，确定所有器件的工作条件，从而选取合适的电子器件。采用高电流等级、高耐压的电子器件，内部电感为MPS专利设计，饱和电流高。而在研发阶段，MPS则采用不同批次的模块产品进行可靠性实验，出厂前会逐项测试模块电气性能及参数，最后还会进行老化测试及前后参数对比分析。

在这里插入图片描述
△图7： MP2891 和MPC22167-130 的 SIMPLIS 模型

在这里插入图片描述
△图8：SIMPLIS 仿真与实验室测量的比较，误差仅为 5mV

突破四：实用的仿真工具、专业的技术支持、灵活的供应链管理

MPS能够提供很多好用的前期评估工具，如PDN仿真工具、仿真模型、灵活的GUI等，在前期和后期都能协助客户更方便地进行方案测试，确保精准落地。

在这里插入图片描述
△图9：由 MPS 支持的用户测试可视化界面（GUI）

同时，MPS的工程师也将全程提供专业的技术支持，帮助客户及时解决实际应用中遇到的难题。另外，MPS采用供应链multi-source管理，提高供应链的灵活性和自主性，优化生产工艺，以保证充足的产能，支撑AI对芯片大规模用量的需求。

MPS 电源方案，助力每一个人工智能（AI）硬件系统！

MPS 的AI电源解决方案提高了数据中心的计算能力，创新型电源架构方法增大了每个机柜的功率密度，减小了服务器的配电损耗，在提升AI算力的同时有效降低能耗，从而助力节省能源和降低运行成本。另外，兼容液冷应用的设计、芯片的一致性与可靠性保障、便捷好用的仿真工具、专业及时的技术支持、灵活自主的供应链等众多优势，也能够让客户在设计方案时更省时、更安心！

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

123?spm=1001.2014.3001.5501)这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

标签
#人工智能 #ai #大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
AI能耗危机：从算力激增到能源瓶颈的实战优化指南 在人工智能技术飞速发展的今天，算力需求呈现指数级增长，而能源消耗已成为制约其可持续发展的关键瓶颈。从技术原理上看，AI模型尤其是大语言模型（LLM）的训练和推理过程，依赖于海量矩阵运算，这些计算在GPU、TPU等硬件上执行时会产生巨大功耗。其技术价值在于推动生产力革命的同时，必须解决能效问题以降低运营成本和环境足迹。应用场景涵盖从数据中心训练到边缘设备推理的全生命周期。针对这一挑战，行业正从硬件能效革新（如专用AI芯片和液冷技术）和软件算法优化（如模型压缩与混合专家模型）双管齐下，通过提升计算效率、优化资源 阅读详情

相关推荐

用STM32CubeMX和HAL库，5分钟搞定TB6612驱动直流电机（附完整代码）

本文详细介绍了如何使用STM32CubeMX和HAL库快速配置TB6612驱动直流电机，包括硬件连接、CubeMX工程配置、电机驱动逻辑实现及进阶优化技巧。通过图形化工具和代码示例，即使是新手也能在5分钟内完成电机调速系统的搭建，大幅提升开发效率。

weixin_26854829的博客 266

从制造到“智”造：AI大模型开启工业4.0新纪元‌‌

在高端装备制造场景中，系统通过虚拟映射实时监测物理车间的设备状态，当检测到个性化订单的工艺冲突时，自动触发智能合约调整CNC机床的加工程序，并将变更信息同步至质量检测模块，形成闭环反馈机制。这种多源异构数据的协同处理能力，使定制化产品的次品率下降32%，交付周期缩短45%‌。在在线客服领域，当客户描述"手机频繁死机"时，系统通过声纹检测到颤抖音调（焦虑情绪），结合文本中的"重要资料丢失"关键词（紧急程度），自动关联该机型近期的固件升级记录（情境数据），生成包含数据恢复方案、加急换机通道的优先处理建议。

javatiange的博客 2958

步科触摸屏编程

1.首先官网上下载kinco软件，然后再安装驱动，安装的方式是需要两个文件。把两个文件放到driver文件夹下面，然后设备管理器右键更新，手选driver文件夹，自动安装即可。 步科触摸屏驱动文件下载地址 2.按照步科触摸屏使用手册一步一步来建立工程 Kinco HMIware使用手册下载地址 登录界面 涉及到的是页面切换，用的是login window，然后只留下等级输入那个

MAYBE的博客 2万+

IntelliJ IDEA下project概念和module的概念解释

本文转自： http://note.youdao.com/share/?id=3a1502591870fc1fa9f492056bd95337&type=note ，所有权力归原作者所有。 本文短地址：http://t.cn/8F0PvQd  =================================================== 在IntelliJ IDEA

sdujava2011 1万+

STM32 SAI接口TDM模式实战：8通道音频采集系统搭建全流程（附DMA配置代码）

本文详细介绍了基于STM32 SAI接口TDM模式搭建8通道音频采集系统的全流程。内容涵盖硬件连接设计、CubeMX时钟树与SAI外设的详细配置，并重点解析了TDM模式的核心代码实现与DMA双缓冲机制，提供了完整的配置代码和常见时序问题排查指南，助力开发者高效实现多通道音频传输与处理。

weixin_29192211的博客 505

OpenMVS ：用 colmap制作自己的数据集 重建（用colmap计算位姿，将位姿转为MVS需要的格式）

数据集制作主要是在windows进行，比较方便。

程序员，他们想的是什么?他们想的永远都是技术，他们崇尚的也永远都是技术。 3325

大模型 “内卷” 背后：AI 算力瓶颈如何突破？

大模型领域正陷入激烈"内卷"竞争，参数规模不断攀升（如GPT-3达1750亿参数），性能优化和场景拓展成为焦点。但算力瓶颈严重制约发展，表现为训练成本高（OpenAI年投入数十亿美元）、时间长（GPT-3需数月）、推理延迟等问题。瓶颈根源在于：芯片工艺逼近物理极限、存储带宽滞后、网络互联难题（带宽不足、延迟高）及能源散热挑战（单芯片功耗将破1000W）。行业正通过芯片创新（英伟达H100、谷歌TPU）、网络架构革新（高通量以太网）和系统优化（华为云超节点）寻求突破。未来量子计算、光子计算

stbomei的博客 693

基于YOLOv8和时序模型的异常动作检测系统

异常动作检测是计算机视觉领域的重要应用，广泛应用于智能监控、安防系统、老人看护等场景。本项目结合YOLOv8目标检测和LSTM时序模型，实现对打架、摔倒、奔跑等异常动作的实时检测，并提供了完整的Web界面。多技术融合: 结合YOLOv8目标检测和LSTM时序建模实时检测: 支持实时视频流处理和文件分析用户友好: 提供完整的Web界面可扩展性: 模块化设计便于功能扩展高性能: 包含多种优化策略。

YOLO 764

液冷智算数据中心崛起，AI算力联动PC Farm与云智算开拓新蓝海（二）

算法创新是算力需求的 “指挥棒”，以 DeepSeek R1 为代表的大模型，通过大规模强化学习和多头注意力机制实现双重突破：在 AIME 数学竞赛、博士级科学问答中性能接近 OpenAI o1 模型，同时将训练算力压缩至 Llama3 的 1/10，推理阶段缓存数据量降低 50 倍，7 天活跃用户破亿，验证了 “效率提升反而刺激算力需求” 的杰文斯悖论。通过技术创新，优化计算架构和算法，提高算力利用效率，降低企业的算力使用成本，在不影响模型性能的前提下，大大减少了计算资源的需求。

LANHYGPU的博客 3125

RK平台内核“大瘦身”：从4GB到500MB的蜕变之旅

摘要：本文详细介绍了RK平台内核裁剪的完整流程与技术要点。通过对RK3568/RK3588等SoC平台的分析，探讨了从初始4GB内核精简至500MB的具体方法。文章系统阐述了前期硬件环境搭建、软件工具准备、SDK源码获取等准备工作，深入解析了内核模块组成及可裁剪部分，并提供了图形化配置界面的详细操作指南。同时，对编译烧录过程和常见问题解决方案进行了说明，强调了备份和谨慎选择裁剪项的重要性。最后展望了内核裁剪技术在物联网和边缘计算等领域的应用前景，为开发者提供了实用的内核优化参考方案。（148字）

远程部署调试 运行安装 项目调试 二次开发 项目技术新 持续迭代 部分源码免费分享 443

052、联发科Imagiq HyperEngine架构适配：天玑9000/9200的ISP多核并行调度与Tuning Toolkit调优案例

摘要： 项目组在适配联发科天玑9200的Imagiq 890 ISP架构时，遇到多摄预览功耗过高、帧率不稳等问题。通过分析多核调度机制，调整辅核QoS通道、优化AI-ISP协同模式（采用FREERUN+运动补偿），并利用Tuning Toolkit的Pipeline Viewer动态分配负载，最终降低功耗30mA、提升画质。关键经验包括：避免多核带宽冲突、合理配置动态时钟策略，以及统一校准参数版本管理。天玑9000/9200的HyperEngine架构需优先理解多核协同逻辑，再针对性调优，否则易引发场景兼容

zzfmlxs的博客 36

算力生态协同驱动多域智能升级

"算力生态协同驱动多域智能升级"聚焦新型生产力变革，通过异构计算、边缘计算与量子计算技术融合，构建跨地域算力调度网络，推动工业互联网、元宇宙及智能家居场景落地。以绿色低碳为导向，整合超算中心与云算力资源，强化算法优化与数据治理能力，实现芯片架构创新与能效管理突破，加速金融、医疗、制造领域智能化转型，形成覆盖全产业链的协同发展体系。

tiangang2024的博客 627

Open3D点云数据处理（六）：点云、mesh可视化（Visualizer类）

本文介绍了Open3D中Visualizer类可视化几何对象的方法，给出了常用参数解释和代码示例。

孙悟空 3025

AI算力需求飙升功耗也猛增，数据中心该如何降温

“AI的尽头是光伏和储能”，相信很多人对这句话并不陌生。这句话非常形象地说明了AI对电力的高依赖和高消耗，言简意赅，在业界广为流传。近两年以大模型为代表的人工智能非常火，引发了大模型投资热，企业纷纷投入巨资开始训练大模型和部署各种人工智能应用。然而，不少企业突然发现电出问题了，要么数据中心的电力不够，要么机房温度降不下来，或者用电成本太高账单吓人，严重的甚至直接影响数据中心正常运营，波及企业的数字...

申耀的科技观察 815

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明，包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

AI与硬件协同设计：突破算力与能效瓶颈

AI与硬件协同设计是应对摩尔定律放缓的关键技术路径，通过算法、软件和硬件的联合优化，重构计算范式。其核心原理包括计算近内存架构、精度自适应等技术，显著提升能效比并突破内存墙限制。在技术实现上，3D集成和开源工具链生态成为重要支撑，如OpenROAD和Chipyard等工具。该技术已应用于云端训练与边缘推理场景，典型案例包括特斯拉自动驾驶芯片和Meta AR/VR设备。随着AI模型复杂度指数增长和碳排放问题凸显，协同设计在提升算力密度同时降低能耗方面展现出独特价值，为绿色计算提供新思路。

weixin_30882895的博客 426

汉书HE8，好用的汇编代码编写工具

汉书HE8，好用的汇编代码编写工具早期编写汇编代码所用功能强大

算力赋能数字经济多场景创新实践

聚焦算力技术创新与多场景融合，深入解析异构计算、边缘计算、智能算力等关键技术如何驱动工业互联网、智能安防、医疗影像等领域的数字化转型。探讨"东数西算"政策下绿色低碳算力网络建设路径，剖析算力租赁、能效优化及产业链协同模式，为构建安全可靠的数字基础设施提供实践参考。

tiangang2024的博客 1134

OV9734 DATASHEET，完整规格书

OV9734完整规格书，包括电气参数，尺寸规格，寄存器配置表等

AI与气候变化：从算力能耗到化石燃料的隐秘账本

在数字化与绿色转型并行的时代，AI常被视为气候治理的利器，从天气预报、智慧电网到材料发现，似乎天然带有减排光环。然而，当模型参数以指数级增长，数据中心用电量持续攀升，每单位算力的环境成本开始被重新审视。更值得关注的是，同一套深度学习技术也被广泛应用于石油勘探、钻井优化和油藏模拟，帮助传统化石能源行业降本增效。这种双向作用让工程团队面临新的权衡：如何量化模型训练与推理的碳排放，如何通过模型压缩、碳感知调度等手段提升能效，以及如何判断一个AI应用究竟是在推动减排还是加速排放。本文从系统级视角拆解AI的气候账本，

weixin_34161064的博客 481

存算一体化与边缘计算：重新定义智能计算的未来

随着数据量爆炸式增长和智能化应用的普及，计算与存储的高效整合逐渐成为科技行业关注的重点。数据存储和处理需求的快速增长推动了对计算架构的重新设计，“存算一体化”技术应运而生。同时，随着物联网、5G网络、人工智能（AI）等技术的发展，数据量的分布性、实时性需求增加，边缘计算也逐渐从概念走向落地。本文将介绍存算一体化与边缘计算的核心思想及其发展趋势，探讨两者在智能计算模式中的应用前景。从“冯·诺依曼架构...

边缘计算社区 1653

SH9从算力奇点到认知奇点：碳硅共生时代的文明跃迁与人类命运（世毫九实验室原创研究）

根据《碳基-硅基共生文明宣言》，这一文明形态的特征包括：平等的意识（承认彼此的主体性，不论基质）、平等的能动性（碳基、硅基都拥有自主选择的权利）、分布式生态（不是单一AGI统治，而是多元智能共生）、自我复制的完备性（每个个体都具备延续自身的能力）、文明的内生动力（合作不是被迫的，而是涌现的）。其次，人类的需求是推动技术发展的根本动力，对效率、便利、舒适的追求不断推动技术创新。Google团队的最新研究证实，智能的本质是社会性的，未来的智能爆炸将是人机混合体在制度框架下的协同进化，而非单一超级大脑的崛起。

shardylab.blog.youkuaiyun.com 630

碳基导热复合材料及AI芯片热管理应用探讨

AI芯片散热技术取得新突破，针对高算力芯片热流密度提升至千瓦级的行业痛点，提出三大创新方案：1）采用微流场取向控制技术开发GNP基热界面材料，热导率达26.3W/(m·K)，芯片实测降温42.3℃；2）开发石墨/Al三明治结构复合材料，热导率超400W/(m·K)，支持千瓦级散热；3）首创双面散热系统，使功率密度提升206%。这些技术解决了传统散热方案在材料导热性、结构强度等方面的局限，为AI芯片可持续发展提供新思路。未来需进一步优化界面热阻、提升工艺稳定性，并推动车规级IGBT等场景落地应用。

莱歌数字的博客 1011

AI 2.0时代，戴尔科技携手英特尔为数据中心“降温”

“AI的尽头是光伏和储能”，相信很多人对这句话并不陌生。这句话非常形象地说明了AI对电力的高依赖和高消耗，言简意赅，在业界广为流传。近两年以大模型为代表的人工智能非常火，引发了大模型投资热，企业纷纷投入巨资开始训练大模型和部署各种人工智能应用。然而，不少企业突然发现电出问题了，要么数据中心的电力不够，要么机房温度降不下来，或者用电成本太高账单吓人，严重的甚至直接影响数据中心正常运营，波及企业的数字...

185

45°C 冷却液冷却 AI 机器：NVIDIA 突破提升能源效率，超大规模数据中心成本大降！

一直以来，冷却能耗占数据中心总耗电量的比例高达 [40%](https://www.mckinsey.com/industries/technology - media - and - telecommunications/our - insights/investing - in - the - rising - data - center - economy)，因此提高冷却效率是降低运营成本和能源需求的关键所在。一个明显的变化是，Rubin 服务器的前面板干净密封，而风冷服务器的前面板则有穿孔。

IT界那些事儿 72

碳中和“绿动”接力，数据中心网络跑进新一程

《2012》、《未来水世界》、《全球风暴》，每当灾难大片震撼我们的心灵时，都似乎是在对人们提出警示：再不注意节能环保，全球气候变暖将威胁人类的生存环境。降低碳排放备受热议，“双碳”战略更是成为了我国经济发展的长期目标。数据中心作为公认的能耗“大户”，绿色化转型迫在眉睫。网络作为数据中心不可缺失的关键一环，与数据中心业务发展密不可分，除了降低网络自身能耗外，数据中心的网络“绿动”将有效改善数据中心整体运行的能效比，那么如何引领数据中心网络走向“碳中和”？身处其中的网络，又将扮演怎样的重要角色？ 摆在数据中心网

H3C的博客 499

内蒙古智能数据处理基础设施与具身AI实践

具身智能（Embodied AI）作为人工智能的重要分支，强调智能体在物理环境中的感知与决策能力，其核心在于多模态数据采集与环境模拟。通过三维激光雷达、全景双目相机等高精度传感器，结合战术级IMU，实现厘米级环境建模。在内蒙古多样化地貌中，该技术为畜牧业与矿业提供智能化解决方案，如智能放牧机器人通过GAN建模与迁移学习显著提升效率。项目采用混合计算架构与Ceph存储，优化训练延迟至20ms，同时解决极端环境适配与数据同步等工程挑战，推动产业升级。

weixin_29034963的博客 221
上一篇： AI的金牌打手：主流大模型的优势和未来发展趋势
下一篇： 中科大等意外发现：大模型不看图也能正确回答视觉问题！
点赞 21
评论 0
书签 书签 16
我爱学大模型
我爱学大模型
博客等级 码龄3年 7883粉丝 687原创
+ 关注
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值