# 大模型的第一个杀手级应用场景出来了

《Cursor-AI编程》基础篇-Composer功能详解 Cursor的Composer功能正在改变开发者编写代码的方式,它能够根据自然语言描述生成代码,还能将代码转换为自然语言等功能,在掌握本章内容后,相信你将更加熟练地运用Cursor的Composer功能,进一步加速你的开发工作流程。 阅读详情

大家终于都意识到大模型首先改变的是软件行业自己,而软件的根基是代码生成。代码生成第一波就是AI辅助开发,这个会是大模型第一个杀手级应用。大家苦苦逼问自己的大模型杀手级应用,为什么会是辅助编程,这里说下什么:

  1. 必须吃狗粮,颠覆性技术连自己的领域都颠覆不了,那还叫啥颠覆性技术。

  2. 允许出错。AI辅助开发具有良好的容错率,允许出错,这个相当重要,也是当前大模型在其他领域目前难以落地的根本原因。

  3. 市场规模大,整个软件市场是千亿到万亿规模的。

  4. 初始客群接受度高。AI辅助编程的第一波客群程序员,技术人员群体规模大,对新技术敏感,接受度高,github copilot 这种处于非常初级的产品就获得百万付费用户(月流水至少两亿)。

这也是为什么我一直致力于代码生成的工作,并且愿景比 Cursor这类大的多,不只是个IDE,这个我们后面再说。

AI辅助编程流派

先说下当前AI辅助编程的流派:

\1. 命令行交互式,代表为 auto-coder.chat,aider,mentat,plandex 等。

\2. IDE 集成式,代表为 cursor,codium 等,此外还有插件子派,比如 auto-coder.chat, claude-dev 等。

\3. Web IDE 为主,代表为 devin, phind(这个比较简陋),以及在 git 内置的一些编程辅助工具。

这里没有提及github copilot 等类似产品,是因为我认为他们不属于AI编程…hmmm… 我只能说是更智能的代码补全工具。

目前真正能落地是两个,一个是命令行交互,一个是IDE 集成。 今天会分别以 auto-coder.chat 和 cursor 来作为两派的代表来对比。

IDE派的优点:

  1. 对于程序员而言,大家熟悉度更高,门槛更低。
  2. 可以在 IDE 交互上做到极致的交互体验,所见即所得。
  3. 开箱即用,下载IDE,打开即可使用。
  4. IDE 提供了一些交互button,比如运行项目,debug项目,这个是其他工具很难替代的。

IDE派的缺点:

  1. Cursor为了追求极致的体验,没有用插件的方式,而是直接二次开发,导致IDE绑定。

  2. 适合人机交互,但难以自动化。

  3. 交互界面在复杂场景下,容易繁琐,想设计好不容易,用户也有一定的学习成本。大家用compser 这种就会发现这个问题。

另外,必须提的一点:大家觉得IDE 交互简单其实是因为大家已经前置学习了 IDE(从你接触编程开始的第一件事就是学习IDE)。IDE 就是图片界的Photoshop 是一款专业软件,实际门槛并不低(但因为前面的原因感觉门槛低)。

命令行流派的优点:

  1. 兼容所有IDE(所有IDE都有内置terminal),甚至不需要IDE
  2. 对于纯萌新而言,实际入门门槛比IDE低(参考前面我特别提醒的点)
  3. 交互一旦学习了以后,效率是远高于IDE的(这点和历史一样)

比如,当你看到一个github 项目,三步即可添加新功能特性:

  1. clone 项目到本地
  2. 进入目录运行 auto-coder.chat
  3. /coding <描述你的需求>

会比 IDE 更轻松。

命令行流派的缺点:

  1. 需要用户适当记住一些指令,比如 /coding /chat 等。但是随着大模型越来越强,用户可能只需要一两个指令即可。
  2. 很多人对命令行略显恐惧。但实际上现在的命令行非常强大,不输编辑器(唯一的缺点是对鼠标支持不好)
  3. 对于有代码阅读需求的,或者需要手工做修改,或者要做代码debug,那么还是需要 IDE 配合。

流派融合

看完了上面的比对,你肯定在纠结,那到底应该用哪个呢?亦或者你心里早就有谱了,我就是用IDE,或者我就是用 Terminal。Naive! 成年人需要做选择题么?成年人应该是:我都要!

所以我今天特意发了这么一个文案:

在这里插入图片描述

其他你喜欢的IDE工具:

在这里插入图片描述

然后我发现也有不少用户已经这么组合来用了,果然,“你再快能快的过用户”?

为什么要这么组合使用呢?因为 1+1 大于2么,各自弥补对方的缺点,提升自己优点。我推荐 cursor + auto-coder.chat。

cursor 可以作为 GitHub copilot 的更好的替代品。 而auto-coder.chat 则有更好的多文件编辑能力,算是更好的 composer。

Cursor 深度剖析,为什么是极致版的 github copilot

重度使用了 cursor 两天。他的迭代路径也很清晰,从早期的copilot (tab tab) 到支持可以参考多个文件针对 “单文件自动修改和合并”(apply)。其中第二个能力是当前 github copilot 没有的,github copilot chat框里的代码没有办法直接合并到文件里,你只能拷贝黏贴。cursor 的单文件修改交互体验做到很极致,那个酷炫的apply 效果很容易勾动程序员的小心脏,但做的再好,也只是一个编辑器辅助功能,程序员很爽,但天花板也很明显,效率提升有限,毕竟还是程序员在手写代码(tab tab) 或者只能针对一个文件做修改(apply)。尽管如此,体验还是吊打 GitHub copilot的。

加上sonnet 3.5 理解能力很强,而且context相对来说比较简单,基本生成的效果相当好。

很多同学看到这,就觉得,很好了呀,为啥不够?代码都能自动写,自动合并了,还有啥可以提升的呀?

注意,实际场景是,当你想添加一个功能需求的时候,你可能需要修改一组相关联的文件,修改多个文件后,你还需要确保他们可以正常的协同工作。这才是最有难度和消耗时间的地方。

程序员会经常说:

\1. 哦,我漏了某个地方忘了改了,导致系统错误,

\2. 亦或者说,哦 我改了一个地方,结果影响到另外一个地方了。

这是最常见的情况,也是最难,效率最低,也是bug的温床

所以未来cursor的希望,就是他们新推出的composer,composer默认是关闭的,需要你去单独开启(新版本据说已经开启了),估计很多人就没体验到。这个功能让cursor迈向了支持多文件新建,修改和合并。这个是从功能迈向“需求”的关键,可以针对现有代码实现一个完整的功能需求。整体效果也不错。

cusor 里composer 的界面是这样的:

图片

和原有的功能是相当割裂的,新启动了一套窗口。我实测下来,他还是比较适合新增一些文件,对于比较复杂的文件修改,还是不太行,合并不进去。我估计是因为他们采用的是 wholefile + diff 算法来做的合并,但目前看效果并不理想。这个我会在后面的案例里详细说明。

这个发展历程和我之前想的差不多,之前我说 cursor走了很多“弯路”。auto-coder.chat 从项目之初,就是要走需求驱动,根据需求自动实现多文件新增修改,相当于第一版我们就做了个composer。我们在 Opus 时代就已经发现可以很好的支撑了多文件修改能力了。

总之 cursor 发展是好事,极大的降低了 auto-coder.chat 的布道门槛,增大了行业的蛋糕。

auto-coder.chat 深度剖析,为什么可以作为极致版的 cursor composer

auto-coder.chat 从一开始就是支持“多文件修改”,面向需求的的代码辅助工具。

对于代码补全和简单的代码续写生成亦或者手动编写代码,debug调试等,用户可以搭配 GitHub copilot ,通义灵码,comate或者cursor来完成。

auto-coder.chat 在 cursor 等IDE中的使用也极度简单,比把大象装进冰箱还少一步:

\1. 打开IDE terminal, 输入 auto-coder.chat 命令

\2. 输入 /coding <描述你的需求>

两步相当于给你带来了真正生产级别的 composer 功能。

来个真实的小案例

昨天我正好想给auto-coder.chat 加上国际化功能。修改之前我们可以看到,所有交互信息都是直接写死在代码里的(英文):

图片

现在我们希望把系统初始化过程中,交互和输出给用户的信息都要支持中英文。基本思路就是,

  1. 新建一个python文件,里面放中英文文本,并且提供 get_message 函数方便外部使用。
  2. 修改所有 chat_auto_coder.py 文件中所以打印信息的部分,采用get_message。

相信很多程序员对这个事都记忆犹新,大量的苦力活,而且还容易错漏,要反复测。

cursor composer 的艰难尝试

我一开始采用 cursor 的 composer 功能来完成。下面是我尝试和他的沟通:

在这里插入图片描述

这是新增的文件内容:

在这里插入图片描述

这是他修改的文件内容:

图片

很遗憾:

  1. 新增内容的路径没有放对,放到了项目根目录,说明对目录理解还是不够。
  2. 修改的内容,无法合并到原有代码(原有代码大概有两千多行)。

我尝试了三次,你看到是最后一版,依然没有成功。

auto-coder.chat 的手到擒来

就一句话,没有更多:

图片

然后在准确的位置新增了一个文件:

图片

修改了一个已经拥有2000多行代码的文件:

图片

大概修改了十几个地方,从diff 可以看出,没有一处遗漏。

最后实现的效果:

图片

依葫芦画瓢改了其他地方:

图片

顺利实现了我的需求,我昨天也顺利发版了 auto-coder==0.1.165 版本。

一个小总结

  1. 和人比,如果是人去做这件事,虽然没啥难度,但必然是漏了这里,漏了哪里,基本上 auto-coder.chat 几分钟可以搞好的事情,人需要花半天到一天。
  2. 和 cursor composer 比,它没有运行成功,并且它还有繁琐的交互的。而auto-coder.chat 的思想是,快速合并,快速/reivew, 快速 /revert 或者 go on。

auto-coder.chat 不仅仅是 auto-coder.chat

如果你觉得 auto-coder.chat 仅仅是一个命令行工具就Naive了,给大家看一张图:

图片

auto-coder.chat 只是水上的冰山,我们在下面做了大量工作,从而支持各种形态的辅助编程产品,提供的API接口也支持企业将自动化编程接近自己的 CICD 开发流程中。

此外,我们还提供了最好的编程知识库集成,以及类似 cursor directory 的 auto-coder.chat lib 功能。

想了解更多,欢迎点击 “原文阅读”。

img

​

如何学习大模型

现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。

作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

在这里插入图片描述

二、AI大模型视频教程

在这里插入图片描述

三、AI大模型各大学习书籍

在这里插入图片描述

四、AI大模型各大场景实战案例

在这里插入图片描述

五、结束语

学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。

再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。

因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。

1.36 Cursor Composer Agent详解:多Agent协作,让AI帮你完成复杂项目 Cursor Composer是Cursor IDE的多Agent协作功能,专为复杂项目开发设计。它支持跨文件编辑、理解完整项目上下文,并能将复杂任务分解为小任务执行。主要特点包括:1) 同时编辑多个相关文件;2) 保持代码风格一致性;3) 适用于项目重构、添加新功能、修复跨文件bug等场景。使用技巧包括明确任务范围、提供项目上下文、分步骤描述需求。最佳实践建议从小任务开始,结合版本控制,并检查生成结果。通过多Agent协作,Composer可显著提升复杂项目的开发效率。 阅读详情

相关推荐

告别混乱代码:Cursor Composer 使用最佳实践详解

> 随着 AI 编程助手的普及,Cursor 作为新一代智能编辑器逐渐获得开发者青睐。然而,在实际使用过程中,开发者常常遇到 AI 生成代码与预期不符、代码质量不稳定、或意外修改关键代码等问题。本文基于实战经验,详细介绍了如何通过版本控制和回滚机制来防范风险,包括 Git 提交策略和 Cursor 内置的多级回滚功能。更重要的是,文章重点阐述了预防性的最佳实践:如何通过预览功能确保代码质量,以及如何通过精确的 AI 指令工程来提高代码生成

AI Agent 首席体验官 1627

auto-coder.chat: 如何自动化开发基于大模型的应用

大家都在积极的开发基于大模型的应用, 尽管大模型在前端,传统web,APP ,小程序等开发上展现了其高超的能力,但是如果我们是在开发基于大模型的应用的时候,我们还都使用基于传统,一点都不智能的方式(比如使用workflow 亦或者基于langchain/llama_index各种库在手写代码),这里,如何根据功能需求手写Prompt,以及prompt的工程化以及管理,同时涉及到底层向量数据存储等的...

allwefantasy的专栏 1258

NVIDIA DGX Spark实战:解锁桌面级大模型开发与推理新范式

本文深入探讨了NVIDIA DGX Spark在桌面级大模型开发与推理中的应用,详细介绍了其统一内存架构、FP4稀疏计算和双机互联等核心技术优势。通过实际案例展示了DGX Spark在快速原型开发、私有化部署、教育科研等五大场景中的卓越表现,为开发者提供了高效的本地大模型解决方案。

weixin_42551227的博客 444

auto-coder.chat 和其他工具的一些区别以及使用流程

前言我们目前提供了两款AI辅助编程工具:1. auto-coder.chat 是一款基于 terminal 的 AI 辅助编程工具。可以搭配任意IDE使用。可以让任何开发工具瞬间就具备AI辅助编程能力,比如微信小程序开发工具。推荐搭配 cursor, cusor 的tab tab 可以有效的提升你偶尔可能会手动修改代码的需求。2. auto-coder.web 是一款 web IDE。 你只需要...

allwefantasy的专栏 1588

大模型与AI Agent的核心差异及技术实现

大模型(如GPT-4)作为底层AI技术,通过海量参数和模式识别实现文本生成与知识关联,但其本质仍是基于统计的模式匹配。AI Agent则是具备自主决策能力的智能体,整合感知、决策、记忆与执行模块,形成动态进化的闭环系统。从技术实现看,大模型依赖Transformer架构和RLHF训练,而AI Agent需要工具调用、向量数据库记忆系统和ReAct决策框架。在应用场景上,大模型擅长内容生成和知识问答,AI Agent则在自动化工作流和复杂问题求解中展现优势。理解二者的核心差异,对于构建可靠的AI系统至关重要,

weixin_34079177的博客 224

AI Agent与大模型核心技术对比与应用解析

在人工智能领域,大模型和AI Agent是两大核心技术方向。大模型基于Transformer架构,通过海量数据训练获得强大的文本生成与理解能力,典型代表如GPT系列。其核心原理是注意力机制,擅长模式识别但缺乏自主行动能力。相比之下,AI Agent是具备感知-决策-执行闭环的智能系统,通过集成大模型API、向量数据库和工作流引擎等技术,能主动完成复杂任务。从技术价值看,大模型适合内容生成、知识问答等场景,而AI Agent在智能客服、自动化办公等领域展现优势。特别是在电商行业,AI Agent能显著提升客服

weixin_32238157的博客 280

国产多模态大模型:中文理解何以成为“杀手锏”?

国产多模态大模型以“深度中文理解”为战略支点,成功撬动了一个庞大而独特的市场,走出了一条差异化的竞争道路。其优势并非浮于表面,而是根植于从高质量中文数据、本土化模型架构到垂直行业解决方案的全链条创新。然而,未来的竞争绝不会止步于“中文”。这将是一场关于综合生态成熟度、极致成本控制能力、原创技术突破以及全球影响力的全面竞赛。对于广大开发者和企业而言,当下正是深入拥抱国产模型生态、利用其中文与场景化优势构建差异化应用的黄金窗口期。行动建议初学者:从ModelScope或OpenXLab。

868

LabVIEW+数据库应用系列保姆级教程,第一篇数据库连接

目录LabVIEW连接数据库的方法连接MySQL连接Oracle,SQL Server,Access等 LabVIEW连接数据库的方法 1、创建udl(Universal Data Link)是通用数据连接文件。界面操作,简单快捷。 2、编写连接字符串。需要熟悉连接字符串的结构,容易出错。 3、其他… 本教程教你使用第1种方法,也是最简单、最常用的方法。 连接MySQL 1、在MySQL Installer内安装MySQL Connector/ODBC,建议安装32位(X86),如下图: 2、创建ODBC

wwplh5520370的博客 1万+

【AI编程新纪元】:Open-AutoGLM沉思app三大杀手级应用场景全曝光

Open-AutoGLM沉思app助力AI编程提效,揭秘三大应用场景:智能代码生成、自动化调试与项目架构设计。基于GLM大模型理解需求,实现自然语言转代码,提升开发效率。支持多语言集成与本地部署,安全高效,值得收藏。

AlgoInk的博客 562

UDS 诊断 - CommunicationControl(通信控制)(0x28)服务 诊断

字节参数名称字节值#1CommunicationControl(通信控制)请求SID0x28#2#3communicationType(通信类型)#4nodeIdentificationNumer(节点标识符)(高位字节)controlType 为 0x04 或 0x05 时,使用该参数#5nodeIdentificationNumer(节点标识符)(低位字节)controlType 为 0x04 或 0x05 时,使用该参数。

耳朵东金子千的博客 1822

让 AI 变聪明的 20 条指令:如何让大模型回答得更精准、更专业、更实事求是

让 AI 变聪明,本质上不是写几句神奇咒语,而是把你的任务表达得更清楚,把事实标准设得更严格,把输出格式规定得更明确,把不确定性管理得更认真,把历史对话利用得更充分。大模型的强项是语言生成、信息组织、模式归纳和方案扩展;弱项是事实核验、实时更新、责任判断和对模糊意图的准确猜测。好的指令,就是在用人的判断弥补模型的弱点,让模型把强项发挥在正确的地方。

Sumarua的博客 1530

AI大模型面试杀手锏:LangChain & LlamaIndex面试题解析,助你征服高薪岗位!

LangChain是一个用于构建大语言模型应用的框架,核心设计理念是通过模块化链接(Chains)实现复杂功能。其六大核心概念包括Models(模型交互)、Prompts(提示管理)、Indexes(数据索引)、Memory(状态记忆)、Chains(任务链)和Agents(动态决策代理)。LCEL(声明式链构建语法)简化了开发流程,支持流式输出与并行处理。RAG(检索增强生成)通过外部数据检索提升生成准确性,涉及文档加载、分块、向量化及检索等步骤。与LlamaIndex(专注数据检索)相比,LangCha

WANGJUNAIJIAO的博客 963

Vivado2023.2与Vitis协同开发:从Hello World到BOOT.BIN的完整流程解析

本文详细解析了使用Vivado 2023.2与Vitis协同开发ZYNQ/MPSoC平台的完整流程。从环境安装、硬件设计、软件编写、在线调试到生成独立的BOOT.BIN启动文件,手把手指导开发者完成从Hello World到系统固化的全步骤,并提供了常见问题的避坑指南,帮助初学者快速掌握软硬件协同开发的核心技能。

weixin_29197051的博客 178

通义千问大模型压缩技术实战指南:从GPU杀手到笔记本宠儿

还在为7B模型需要13GB显存而发愁吗?还在为13B模型需要26GB显存而望而却步吗?今天,我将带你深入探索通义千问(Qwen)大语言模型的压缩黑科技,让你在普通消费级GPU上也能轻松部署AI大模型! 想象一下,你正在开发一个AI应用,但服务器成本让你夜不能寐。或者你想在本地运行一个智能助手,却发现显卡内存根本不够用。这不仅仅是你的痛点,而是整个AI开发者社区的共同挑战。 但别担心,通义千问团

gitblog_00931的博客 562

一文读懂客户健康度

什么是客户健康度?客户健康度为什么重要?怎么计算客户健康度?这篇文章,我们来聊聊。

m0_62700043的博客 1420

[网络安全自学篇] 六十八.WannaCry勒索病毒复现及分析(二)MS17-010利用及病毒解析

这是作者的网络安全自学教程系列,主要是关于安全工具和实践操作的在线笔记,特分享出来与博友们学习,希望您们喜欢,一起进步。前文分享了通过Python利用永恒之蓝漏洞加载WannaCry勒索病毒,并实现对Win7文件加密的过程,但过程较为复杂,为什么不直接利用永恒之蓝呢?所以,这篇文章将直接分享MSF利用MS17-010漏洞进行反弹Shell,再上传勒索病毒进行实验复现,并详细讲解WannaCry勒索病毒的原理。基础性文章,希望对您有所帮助。

杨秀璋的专栏 1万+

ISON新数据格式:让大模型应用token效率提升272%,JSON杀手来了!!

ISON是一种新型数据格式,采用表格状结构替代传统JSON,能显著减少AI应用开发中的token消耗。相比JSON,ISON可减少72%的token使用量,同时保持高数据完整性。它支持多种数据类型、引用系统和类型注解,已构建跨5种编程语言的完整生态系统。特别适合需要频繁与LLM交换数据的应用场景,如RAG和智能体系统,是提升AI应用性能的理想选择。

2401_85373396的博客 1182

基于互联网的智能旧衣回收箱设计与实现

本文介绍了基于嵌入式系统的智能旧衣回收箱的设计与实现,涵盖了硬件设计、软件开发、图像识别、物联网连接等方面的内容。通过利用最新的技术,如图像识别、物联网和云计算,实现了智能、便捷的旧衣物回收系统。未来,随着技术的不断进步,智能回收系统将会在环保领域发挥更大的作用。

2201_76125393的博客 910

【AI大模型】跌倒监控与健康:技术实践及如何改变未来

AI大模型与穿戴设备的深度融合应用,为跌倒检测和健康预警系统带来了革命性的变化。通过先进的技术、跨学科的合作、完善的生态系统构建和政策支持,可以显著提升健康管理系统的准确性、实时性和用户体验。未来,随着技术的不断进步和应用的深入,AI大模型将在健康领域发挥越来越重要的作用,推动智慧健康管理迈向新的高度。

结合项目案例,记录点点滴滴,自己回顾,分享他人o__o 2万+

ARM功耗管理软件之DVFS&AVS

思考:功耗管理软件栈及示例?WFI&WFE?时钟&电源树?DVFS&AVS?

AI-安全-功耗 1234

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

vLLM镜像发布:支持GPTQ/AWQ量化的大模型加速方案

本文介绍vLLM推理加速镜像,支持GPTQ/AWQ量化,结合PagedAttention与连续批处理技术,显著提升大模型推理吞吐并降低显存占用。适用于企业级部署,兼容OpenAI API,实现高效、低成本的生成式AI服务。

weixin_42309599的博客 396

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

CosyVoice语音大模型实战指南:从零开始构建多语言TTS系统

你是否曾为构建高质量的文本转语音系统而烦恼?面对复杂的语音合成技术栈和繁琐的部署流程,很多开发者望而却步。CosyVoice作为一款基于大语言模型的多语言语音生成系统,为这一挑战提供了优雅的解决方案。本文将带你从零开始,全面掌握CosyVoice的核心功能、部署技巧和性能优化策略,让你在短时间内构建出专业级的语音合成应用。 ## 项目概览:为什么选择CosyVoice? CosyVoice是F

gitblog_00467的博客 877

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

大模型训练的“瓶颈杀手”——HCCL集合通信库深度解析与实战优化

大模型训练的“瓶颈杀手”——HCCL集合通信库深度解析与实战优化

2501_94551709的博客 434

大模型推理服务卡顿?可能是你没用对vLLM镜像

本文介绍如何使用vLLM镜像解决大模型推理中的卡顿问题,重点解析PagedAttention和连续批处理技术,显著提升GPU利用率和吞吐量,支持高并发、低延迟部署,帮助用户以更低资源成本实现高性能推理服务。

weixin_42590539的博客 771

寒武纪MLU370编程陷阱:float32精度丢失的硬件级解决方案——混合精度训练中的定点数补偿算法设计

当大模型训练遭遇显存墙与算力墙的双重夹击,混合精度计算成为破局关键。然而在寒武纪MLU370平台上,float32精度的隐秘丢失却成为模型收敛的"沉默杀手"。本文将揭示硬件级精度陷阱的根源,并提出创新的定点数补偿算法。

AladdinEdu,你的AI学习实践工作坊。让想法落地,让研究加速。助力高校AI人才成长,点亮创新未来。 1251
上一篇: Ollama+Flux模型会擦出怎样的火花
下一篇: 提示词写不好,AI只会帮倒忙!8个常见提示词避雷清单!
AI大模型_学习君
博客等级 码龄3年 6138粉丝 551原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值